Lineare Transformation
▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀
gaußverteilter Zufallsvariabler
▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀
Ein n-dimensionaler gaußverteilter Zufallsvektor y habe die
Wahrscheinlichkeitsdichte f(y):
┌────────────────────────────────────────────┐
│ Gaußsche Wahrscheinlichkeitsdichte │
│ │
│ ┌ ┐½ ┌ T ┐ │
│ │ │P│ │ -½∙│(y-y^) ∙P∙(y-y^)│ │ (1)
│ f(y) = │ ────── │ ∙ e └ ┘ │
│ │ (2∙π)ⁿ │ │
│ └ ┘ │
└────────────────────────────────────────────┘ ,
mit dem Erwartungswert:
┌───────────┐
│ E(y) ≡ y^ │ (2)
└───────────┘
und der Gewichtsmatrix P, die die Inverse der Kovariansmatrix Cy
ist:
┌────────────────────────────────┐
│ ┌ T ┐ -1 │
│ Cy = E│ (y-y^)∙(y-y^) │ = P │ (3)
│ └ ┘ │
└────────────────────────────────┘ .
Allgemein ist die charakteristische Funktion Φ(t) einer beliebigen
Wahrscheinlichkeitsdichte f(y) ihre Fouriertransformierte, was
auch durch den Erwartungswert E des Ausdrucks
T
i∙t ∙y
e
beschrieben werden kann:
┌─────────────────────────────────────────────────┐
│ Charakteristische Funktion Φ(t) der Dichte f(y) │
│ │
│ ┌ T ┐ T │
│ │ i∙t ∙y │ ⌠ i∙t ∙y │ (4)
│ Φ(t) := E│ e │ = │ e ∙f(y)∙dⁿy │
│ └ ┘ ⌡ │
│ Rⁿ │
└─────────────────────────────────────────────────┘ .
Bestimmen wir die charakteristische Funktion zur Gaußschen
Wahrscheinlichkeitsdichte:
┌ ┐½ T ┌ T ┐
│ │P│ │ ⌠ i∙t ∙y -½∙│(y-y^) ∙P∙(y-y^)│
Φ(t) = │ ────── │ ∙ │ e ∙ e └ ┘ ∙dⁿy .
│ (2∙π)ⁿ │ ⌡
└ ┘ Rⁿ
Mit der Substitution
½ -½ -½
u = P ∙(y-y^) , y = P ∙u + y^ , dⁿy = │P│ ∙dⁿu
folgt:
┌ ┐½ T ┌ -½ ┐ ┌ T ┐
│ 1 │ ⌠ i∙t ∙│P ∙u + y^│ -½∙│ u ∙u │
Φ(t) = │ ────── │ ∙ │ e └ ┘ ∙ e └ ┘ ∙dⁿu
│ (2∙π)ⁿ │ ⌡
└ ┘ Rⁿ
T
i∙t ∙y^ ┌ T T -½ ┐
e ⌠ -½∙│ u ∙u - 2∙i∙t ∙P ∙u │
= ───────── ∙ │ e └ ┘ ∙dⁿu
┌ ┐½ ⌡
│(2∙π)ⁿ│ Rⁿ
└ ┘
T
i∙t ∙y^ ┌ -½ T -½ T -1 ┐
e ⌠ -½∙│(u-i∙P ∙t) ∙(u-i∙P ∙t) + t ∙P ∙t│
= ─────────∙│ e └ ┘ ∙dⁿu
┌ ┐½ ⌡
│(2∙π)ⁿ│ Rⁿ
└ ┘
T T -1
i∙t ∙y^-½∙t ∙P ∙t ┌ -½ T -½ ┐ (5)
e ⌠ -½∙│(u-i∙P ∙t) ∙(u-i∙P ∙t)│
= ───────────────────∙│ e └ ┘∙dⁿu .
┌ ┐½ ⌡
│(2∙π)ⁿ│ Rⁿ
└ ┘
Da das Integral gleich √((2∙π)ⁿ) ist, zur Integration von (5)
siehe Anhang, erhält man schließlich als charakteristische
Funktion der Gaußdiche:
┌───────────────────────────────────────────┐
│ Charakteristische Funktion der Gaußdichte │
│ │
│ ┌ T ┐ T T │ (6)
│ │ i∙t ∙y │ i∙t ∙y^ -½∙t ∙Cy∙t │
│ Φ(t) = E│ e │ = e │ ┌ -1 ┐
│ └ ┘ │ │ Cy = P │
└───────────────────────────────────────────┘ └ ┘ .
Die Umkehrtransformation der charakteristischen Funktion lautet:
┌────────────────────────────────────┐
│ Umkehrtransformation der │
│ charakteristische Funktion │
│ │
│ T │
│ 1 ⌠ -i∙y ∙t │ (7)
│ f(y) = ────── ∙│ e ∙Φ(t)∙dⁿt │
│ (2∙π)ⁿ ⌡ │
│ Rⁿ │
└────────────────────────────────────┘ .
Setzen wir die charakteristische Funktion der Gaußdichte ein, um
die Rücktransformation durchzuführen:
T T T
1 ⌠ -i∙y ∙t + i∙t ∙y^ -½∙t ∙Cy∙t
f(y) = ────── ∙│ e ∙dⁿt
(2∙π)ⁿ ⌡
Rⁿ
┌ T T ┐
1 ⌠ -½∙│t ∙Cy∙t +2∙i∙t ∙(y-y^)│
= ────── ∙│ e └ ┘ ∙dⁿt ,
(2∙π)ⁿ ⌡
Rⁿ
und mit der Substitution
½ ½ ½
x = Cy ∙t , t = P ∙x , dⁿt = │P│ ∙dⁿx
folgt
½ ┌ T T ½ ┐
│P│ ⌠ -½∙│x ∙x +2∙i∙x ∙P ∙(y-y^)│
f(y) = ────── ∙│ e └ ┘ ∙dⁿx
(2∙π)ⁿ ⌡
Rⁿ
½
│P│
= ──────
(2∙π)ⁿ
┌ ½ T ½ T ┐
⌠ -½∙│(x+i∙P ∙(y-y^)) ∙(x+i∙P ∙(y-y^))+(y-y^) ∙P∙(y-y^)│
∙│e └ ┘ ∙dⁿx
⌡
Rⁿ
½ T
│P│ -½∙(y-y^) ∙P∙(y-y^)
= ──────∙e
(2∙π)ⁿ
┌ ½ T ½ ┐
⌠ -½∙│(x+i∙P ∙(y-y^)) ∙(x+i∙P ∙(y-y^))│
∙│e └ ┘ ∙dⁿx ,
⌡
Rⁿ
und da der Integralterm den Wert √((2∙π)ⁿ) hat (analog zu (5),
siehe Anhang), folgt:
┌ ┐½ T
│ │P│ │ -½∙(y-y^) ∙P∙(y-y^)
f(y) = │ ────── │ ∙e ,
│ (2∙π)ⁿ │
└ ┘
so daß wir offenbar wieder die Gaußdichte erhalten haben.
Die Fouriertransformation ist umkehrbar eindeutig. Wir benutzen
sie, um einige Aussagen über lineare Transformationen von
gaußverteilten Größen zu gewinnen.
* * *
Um zu zeigen, daß eine lineare Transformation eines gaußverteilten
Zufallsvektors y (mit Kovarianzmatrix Cy) wieder gaußverteilt ist,
betrachten wir die lineare Transformation
T T T
t = s ∙A bzw. t = A ∙s ,
dabei sei A eine mxn-Matrix, mit vollem Zeilenrang m. Führt man
diese Transformation in die charakteristische Funktion der
Gaußdichte (6) ein, so folgt:
┌ T ┐ T T T
│ i∙s ∙A∙y │ i∙s ∙A∙y^ -½∙s ∙A∙Cy∙A ∙s
E│ e │ = e ,
└ ┘
und es ist ersichtlich, daß man offenbar die charakteristische
Funktion Φ(s) einer Gaußdichte des Zufallsvektors x := A∙y erhält:
┌ T ┐ T T
│ i∙s ∙x │ i∙s ∙x^ -½∙s ∙Cx∙s
Φ(s) = E│ e │ = e ,
└ ┘
so daß also gilt:
┌───────────────────────────────────────────────┐
│ Ein gaußverteilter Zufallsvektor y habe den │
│ Erwartungswert y^ und die Kovarianzmatrix Cy. │
│ Die lineare Transformation x := A∙y (A eine │
│ Matrix mit vollem Zeilenrang) ist wieder │
│ gaußverteilt und es gilt: │
│ T │
│ x = A∙y , x^ = A∙y^ , Cx = A∙Cy∙A │
└───────────────────────────────────────────────┘ .
Anhang
------
Die Integration des Integrals (5)
---------------------------------
Das Integral aus (5) lautet:
┌ -½ T -½ ┐
⌠ -½∙│(u-i∙P ∙t) ∙(u-i∙P ∙t)│
I = │ e └ ┘∙dⁿu
⌡
Rⁿ
┌ T ┐
⌠ -½∙│(u-i∙r) ∙(u-i∙r)│
= │ e └ ┘∙dⁿu mit r = const. und reell, (8)
⌡
Rⁿ
was genauer auch so geschrieben werden kann:
┌ +u ┐
│ h ┌ T ┐ │
n │ ⌠ -½∙│(u -i∙r ) ∙(u -i∙r )│ │
I = π │ lim │ e └ h h h h ┘∙du │ .
h=1 │ u -> ∞ ⌡ h │
│ h -u │
└ h ┘
Mit der Substitution:
z = u -i∙r , dz = du , u und r reell, folgt:
h h h h h h h
┌ +u -i∙r ┐
│ h h ┌ ┐ │
n │ ⌠ -½∙│ z² │ │
I = π │ lim │ e └ h ┘ ∙dz │ . (9)
h=1 │ u -> ∞ ⌡ h │
│ h -u -i∙r │
└ h h ┘
Die Integration der einzelnen Integrale in (9) erfolgt jetzt über
die komplexe Ebene, und wir sehen zudem, daß wir nur ein Integral
für eine Dimension zu lösen brauchen, dann ist die Gesamtlösung
gleich der n-ten Potenz dieser Einzellösung. Betrachten wir das
eindimensionale Integral J:
+a -i∙b
⌠ -½∙v²
J = lim │ e ∙dv mit a und b reell.
a -> ∞ ⌡
-a -i∙b
Da die e-Funktion holomorph ist, kann der Integrationsweg von
(-a-i∙b) bis (+a-i∙b) beliebig gewählt werden; wir zerlegen die
Integration in drei Teile:
J = J1 + J2 + J3 ,
-a
⌠ -½∙v²
J1 = lim │ e ∙dv (parallel zur imagin. Achse),
a -> ∞ ⌡
-a -i∙b
+a
⌠ -½∙v²
J2 = lim │ e ∙dv (entlang der reellen Achse),
a -> ∞ ⌡
-a
+a -i∙b
⌠ -½∙v²
J3 = lim │ e ∙dv (parallel zur imagin. Achse).
a -> ∞ ⌡
+a
Wir werden nun zeigen, daß J1 und J3 gleich null sind. Ohne
Einschränkung der Allgemeinheit betrachten wir J1:
Führen wir als neue Integrationsvariable w ein:
w = -i∙(v + a) bzw. v = -a + i∙w,
w1 = -i∙(-a -i∙b +a) = -b (reell!),
w2 = -i∙(-a+a) = 0,
dv = i∙dw,
so erhalten wir:
0
⌠ -½∙(-a + i∙w)²
J1 = lim i∙│ e ∙dw
a -> ∞ ⌡
-b
0
⌠ -½∙{a²-w²-2∙i∙(a∙w+π/2)} ┌ i∙π/2 ┐
= lim │ e ∙dw │ mit i=e │
a -> ∞ ⌡ └ ┘
-b
0
⌠ -½∙(a²-w²) i∙(a∙w+π/2)
= lim │ e ∙e ∙dw .
a -> ∞ ⌡
-b
Die Integration kann entlang des reellen Weges von -b bis 0
erfolgen, w und dw sind dann reell.
Der Betrag von J1 ist:
│ 0 │
│ ⌠ -½∙(a²-w²) i∙(a∙w+π/2) │
|J1| = │ lim │ e ∙e ∙dw │
│ a -> ∞ ⌡ │
│ -b │
0
⌠ │ -½∙(a²-w²) i∙(a∙w+π/2)│
≤ lim │ │ e ∙e │∙dw
a -> ∞ ⌡ │ │
-b
0
⌠ │ -½∙(a²-w²) │ │ i∙(a∙w+π/2)│
= lim │ │ e │∙│ e │∙dw
a -> ∞ ⌡ │ │ │ │
-b
0
⌠ -½∙(a²-w²)
= lim │ e ∙dw = 0 .
a -> ∞ ⌡
-b
Also bleibt nur das Integral J2 übrig, dessen Wert aber bekannt
ist, es gilt:
+∞
⌠ -½∙v² ½
J2 = │ e ∙dv = (2∙π) ,
⌡
-∞
so daß wir für I schließlich erhalten:
┌ ┐½
I = │(2∙π)ⁿ│ , was zu zeigen war.
└ ┘