Stochastische Signaltheorie/Wahrscheinlichkeitsdichtefunktion: Unterschied zwischen den Versionen

Aus LNTwww
Wechseln zu:Navigation, Suche
Zeile 48: Zeile 48:
  
 
{{Definition}}
 
{{Definition}}
Der Wert der '''Wahrscheinlichkeitsdichtefunktion''' $f_{x}(x)$ an der Stelle $x_µ$ ist gleich der Wahrscheinlichkeit, dass der Momentanwert der Zufallsgröße $x$ in einem (unendlich kleinen) Intervall der Breite $Δx$ um $x_µ$ liegt, dividiert durch $Δx$:
+
Der Wert der '''Wahrscheinlichkeitsdichtefunktion''' $f_{x}(x)$ an der Stelle $x_\mu$ ist gleich der Wahrscheinlichkeit, dass der Momentanwert der Zufallsgröße $x$ in einem (unendlich kleinen) Intervall der Breite $Δx$ um $x_\mu$ liegt, dividiert durch $Δx$:
 
$$f_x(x=x_\mu) = \lim_{\rm \Delta \it x \hspace{0.05cm}\to \hspace{0.05cm}\rm 0}\frac{\rm Pr \{\it x_\mu-\rm \Delta \it x/\rm 2 \le \it x \le x_\mu \rm +\rm \Delta \it x/\rm 2\}}{\rm \Delta \it  x}.$$
 
$$f_x(x=x_\mu) = \lim_{\rm \Delta \it x \hspace{0.05cm}\to \hspace{0.05cm}\rm 0}\frac{\rm Pr \{\it x_\mu-\rm \Delta \it x/\rm 2 \le \it x \le x_\mu \rm +\rm \Delta \it x/\rm 2\}}{\rm \Delta \it  x}.$$
 
{{end}}
 
{{end}}
Zeile 60: Zeile 60:
 
:$$\int_{-\infty}^{+\infty} f_{x}(x) \,{\rm d}x = \rm 1.$$
 
:$$\int_{-\infty}^{+\infty} f_{x}(x) \,{\rm d}x = \rm 1.$$
 
*Die entsprechende Gleichung für wertdiskrete, $M$-stufige Zufallsgrößen sagt aus, dass die Summe über die $M$ Auftrittswahrscheinlichkeiten den Wert $1$ ergibt.  
 
*Die entsprechende Gleichung für wertdiskrete, $M$-stufige Zufallsgrößen sagt aus, dass die Summe über die $M$ Auftrittswahrscheinlichkeiten den Wert $1$ ergibt.  
 
 
Zur Vertiefung der hier behandelten Thematik empfehlen wir das folgende Lernvideo:
 
 
[[Wahrscheinlichkeit und Wahrscheinlichkeitsdichtefunktion]] 
 
  
  
Zeile 73: Zeile 68:
  
 
==WDF-Definition für diskrete Zufallsgrößen==
 
==WDF-Definition für diskrete Zufallsgrößen==
Aus Gründen einer einheitlichen Darstellung aller Zufallsgrößen (sowohl wertdiskret als auch wertkontinuierlich) ist es zweckmäßig, die Wahrscheinlichkeitsdichtefunktion auch für diskrete Zufallsgrößen zu definieren. Wendet man die Definitionsgleichung der letzten Seite auf diskrete Zufallsgrößen an, so nimmt die WDF an einigen Stellen $x_µ$ aufgrund des nicht verschwindend kleinen Wahrscheinlichkeitswertes und des Grenzübergangs $Δx →$ 0 unendlich große Werte an. Somit ergibt sich für die WDF eine Summe von [[Signaldarstellung/Allgemeine_Beschreibung/Gleichsignal_-_Grenzfall_eines_periodischen_Signals#Diracfunktion_im_Frequenzbereich|Diracfunktionen]]  (bzw. ''Distributionen''):  
+
Aus Gründen einer einheitlichen Darstellung aller Zufallsgrößen (sowohl wertdiskret als auch wertkontinuierlich) ist es zweckmäßig, die Wahrscheinlichkeitsdichtefunktion auch für diskrete Zufallsgrößen zu definieren. Wendet man die Definitionsgleichung der letzten Seite auf diskrete Zufallsgrößen an, so nimmt die WDF an einigen Stellen $x_\mu$ aufgrund des nicht verschwindend kleinen Wahrscheinlichkeitswertes und des Grenzübergangs $Δx → 0$ unendlich große Werte an. Somit ergibt sich für die WDF eine Summe von [[Signaldarstellung/Allgemeine_Beschreibung/Gleichsignal_-_Grenzfall_eines_periodischen_Signals#Diracfunktion_im_Frequenzbereich|Diracfunktionen]]  (bzw. ''Distributionen''):  
$$f_{\rm x}(x)=\sum_{\mu=1}^{M}p_\mu\cdot \rm \delta(\it x-x_\mu).$$
+
$$f_{x}(x)=\sum_{\mu=1}^{M}p_\mu\cdot {\rm \delta}( x-x_\mu).$$
 +
 
 +
Die Gewichte dieser Diracfunktionen sind gleich den Wahrscheinlichkeiten $p_\mu = {\rm Pr}(x = x_\mu$).
  
Die Gewichte dieser Diracfunktionen sind gleich den Wahrscheinlichkeiten $p_µ =$ Pr( $x = x_µ$). Hier noch ein Hinweis, um die unterschiedlichen Beschreibungsgrößen für diskrete und kontinuierliche Zufallsgrößen einordnen zu können: Wahrscheinlichkeit und Wahrscheinlichkeitsdichtefunktion stehen in ähnlichem Verhältnis zueinander wie im Buch [[Signaldarstellung]]
+
Hier noch ein Hinweis, um die unterschiedlichen Beschreibungsgrößen für diskrete und kontinuierliche Zufallsgrößen einordnen zu können: Wahrscheinlichkeit und Wahrscheinlichkeitsdichtefunktion stehen in ähnlichem Verhältnis zueinander wie im Buch [[Signaldarstellung]]
*ein diskreter Spektralanteil einer harmonischen Schwingung  ⇒  Linienspektrum,  
+
*ein diskreter Spektralanteil einer harmonischen Schwingung  ⇒  Linienspektrum, und
 
*ein kontinuierliches Spektrum eines energiebegrenzten (impulsförmigen) Signals.
 
*ein kontinuierliches Spektrum eines energiebegrenzten (impulsförmigen) Signals.
  
  
 
{{Beispiel}}
 
{{Beispiel}}
Nachfolgend sehen Sie einen Ausschnitt eines Rechtecksignals mit drei möglichen Werten, wobei der Signalwert 0 V doppelt so häufig wie die äußeren Signalwerte (±1 V) auftritt.  
+
Nachfolgend sehen Sie einen Ausschnitt eines Rechtecksignals mit drei möglichen Werten, wobei der Signalwert $0 \ \rm V$ doppelt so häufig wie die äußeren Signalwerte ($\pm 1 \ \rm V$) auftritt.  
  
[[Datei:P_ID40__Sto_T_3_1_S3_NEU.png | Signal und WDF eines Digitalsignals]]
+
[[Datei:P_ID40__Sto_T_3_1_S3_NEU.png|Signal und WDF eines Digitalsignals]]
  
 
Somit lautet die dazugehörige WDF (Anteile von oben nach unten):  
 
Somit lautet die dazugehörige WDF (Anteile von oben nach unten):  
$$f_{\rm x}(x) = \rm 0.25 \cdot \delta(\it x-\rm 1V) + 0.5\cdot \it \delta(x) \rm + \rm 0.25\cdot \delta (\it x \rm + \rm 1\rm V).$$
+
$$f_{x}(x) = 0.25 \cdot \delta(x-{\rm 1 \ V}) + 0.5\cdot \delta(x) + 0.25\cdot \delta (x + 1\ \rm V).$$
 
{{end}}
 
{{end}}
  
  
 
Zur Vertiefung der hier behandelten Thematik empfehlen wir das folgende Lernvideo:
 
Zur Vertiefung der hier behandelten Thematik empfehlen wir das folgende Lernvideo:
Wahrscheinlichkeit und Wahrscheinlichkeitsdichtefunktion  (2-teilig: Dauer 5:30 – 6:35)
+
 
 +
[[Wahrscheinlichkeit und Wahrscheinlichkeitsdichtefunktion]]  
  
 
==Numerische Ermittlung der WDF==
 
==Numerische Ermittlung der WDF==
 
Sie sehen hier ein Schema zur numerischen Ermittlung der Wahrscheinlichkeitsdichtefunktion.  
 
Sie sehen hier ein Schema zur numerischen Ermittlung der Wahrscheinlichkeitsdichtefunktion.  
  
 +
[[Datei:P_ID175__Sto_T_3_1_S4_ganzneu.png | Zur numerischen Ermittlung der WDF]]
  
[[Datei:P_ID175__Sto_T_3_1_S4_ganzneu.png | Zur numerischen Ermittlung der WDF]]
+
Setzt man voraus, dass die vorliegende Zufallsgröße $x$ außerhalb des Bereichs von $x_{\rm min} = –4.02$ bis $x_{\rm max} = +4.02$ nur vernachlässigbar kleine Anteile besitzt, so geht man folgendermaßen vor:
 +
*Man teilt den Wertebereich von $x$ in $I$ Intervalle gleicher Breite $Δx$ ein und definiert ein Feld $\text{WDF}[0 : I–1]$. In obiger Skizze ist $I = 201$ und dementsprechend $Δx = 0.04$ gewählt.
 +
*Die Zufallsgröße $x$ wird nun $N$ mal nacheinander aufgerufen und dabei jeweils geprüft, zu welchem Intervall $i_{\rm akt}$ die aktuelle Zufallsgröße $x_{\rm akt}$ gehört: $i_{\rm akt} = ({\rm int})((x + x_{\rm max})/Δx)$.
 +
*Das entsprechende Feldelement WDF( $i_{\rm akt}$) wird dann um $1$ erhöht. Nach $N$ Durchläufen beinhaltet dann $\text{WDF}[i_{\rm akt}]$  die Anzahl der Zufallszahlen, die zum Intervall $i_{\rm akt}$ gehören.
 +
*Die tatsächlichen WDF-Werte erhält man, wenn am Ende noch alle Feldelemente $\text{WDF}[i]$ mit $0 ≤ i ≤ I–1$ durch $N · Δx$ dividiert werden.
  
  
Setzt man voraus, dass die vorliegende Zufallsgröße $x$ außerhalb des Bereichs von $x_{\rm min} =$ –4.02 bis $x_{\rm max} =$ +4.02 nur vernachlässigbar kleine Anteile besitzt, so geht man folgendermaßen vor:
+
{{Beispiel}}
*Man teilt diesen Wertebereich von $x$ in $I$ Intervalle gleicher Breite $Δx$ ein und definiert ein Feld WDF[0 : $I$–1]. In obiger Skizze ist $I =$ 201 und dementsprechend $Δx =$ 0.04 gewählt.
+
Aus den eingezeichneten grünen Pfeilen in obiger Grafik erkennt man:
*Die Zufallsgröße $x$ wird nun $N$ mal nacheinander aufgerufen und dabei jeweils geprüft, zu welchem Intervall $i_{\rm akt}$ die aktuelle Zufallsgröße $x_{\rm akt}$ gehört: $i_{\rm akt} = (int)((x + x_{\rm max})/Δx)$.  
+
*Der Wert $x_{\rm akt} = 0.07$ führt zum Ergebnis $i_{\rm akt} =$ (int) ((0.07 + 4.02)/0.04) = (int) $102.25$. Hierbei bedeutet (int) eine Integerwandlung nach der Float-Division    ⇒    $i_{\rm akt} = 102$.  
*Das entsprechende Feldelement WDF( $i_{\rm akt}$) wird dann um 1 erhöht. Nach $N$ Durchläufen beinhaltet dann WDF( $i_{\rm akt}$) die Anzahl der Zufallszahlen, die zum Intervall $i_{\rm akt}$ gehören.  
+
*Das gleiche Intervall $i_{\rm akt} = 102$ ergibt sich für $0.06 < x_{\rm akt} < 0.10$, zum Beispiel also auch für $x_{\rm akt} = 0.09$.  
*Die tatsächlichen WDF-Werte erhält man, wenn am Ende noch alle Feldelemente WDF( $i$) mit 0 ≤ $i$ ≤ $I$–1 durch $N · Δx$ dividiert werden.  
 
  
 +
{{end}}
  
{{Beispiel}}
+
==Aufgaben zum Kapitel==
Aus den eingezeichneten Pfeilen in obiger Grafik erkennt man:
+
 
*Der Wert $x_{\rm akt} =$ 0.07 führt zum Ergebnis $i_{\rm akt} =$ (int) ((0.07 + 4.02)/0.04) = (int) 102.25. Hierbei bedeutet (int) eine Integerwandlung nach der Float-Division  ⇒  $i_{\rm akt} =$ 102.
+
[[Aufgaben:3.1 cos² - und Dirac-WDF|Aufgabe 3.1: &nbsp; cos² - und Dirac-WDF]]
*Das gleiche Intervall $i_{\rm akt} =$ 102 ergibt sich für 0.06 < $x_{\rm akt}$ < 0.10, z.B. auch für $x_{\rm akt} =$ 0.09.
 
  
 +
[[3.1Z Dreieckförmige WDF|Aufgabe 3.1Z: &nbsp; Dreieckförmige WDF]]
  
{{end}}
 
  
 
{{Display}}
 
{{Display}}

Version vom 7. März 2017, 15:19 Uhr

Wir betrachten im Folgenden kontinuierliche Zufallsgrößen, also Zufallsgrößen, die zumindest in gewissen Wertebereichen unendlich viele verschiedene Werte annehmen können. Deren Anwendungen sind in der Informations- und Kommunikationstechnik von vielfältiger Art. Sie werden unter Anderem für die Simulation von Rauschsignalen und zur Beschreibung von Fadingeinflüssen herangezogen.

Wir beschränken uns zunächst auf die statistische Beschreibung der Amplitudenverteilung. Innere statistische Bindungen der zugrundeliegenden Prozesse werden erst in den beiden nachfolgenden Kapiteln betrachtet.

Weitere Informationen zum Thema „Kontinuierliche Zufallsgrößen” sowie Aufgaben, Simulationen und Programmierübungen finden Sie im

  • Kapitel 4: Kontinuierliche Zufallsgrößen (Programm kon)
  • Kapitel 13: Fehlerwahrscheinlichkeit (Programm fwk)

des Praktikums „Simulationsmethoden in der Nachrichtentechnik”. Diese (ehemalige) LNT-Lehrveranstaltung an der TU München basiert auf


Der erste Abschnitt „Wahrscheinlichkeitsdichtefunktion” ist wie folgt gegliedert:

Eigenschaften kontinuierlicher Zufallsgrößen

Im zweiten Kapitel wurde gezeigt, dass die Amplitudenverteilung einer diskreten Zufallsgröße vollständig durch ihre $M$ Auftrittswahrscheinlichkeiten bestimmt ist, wobei die Stufenzahl $M$ meist einen endlichen Wert besitzt.

Nun betrachten wir (wert-)kontinuierliche Zufallsgrößen. Darunter versteht man Zufallsgrößen, deren mögliche Zahlenwerte nicht abzählbar sind  ⇒ $M \to \infty$.

Weiter soll gelten:

  • Wir kennzeichnen im Weiteren kontinuierliche Zufallsgrößen (meist) mit $x$ im Gegensatz zu den diskreten Zufallsgrößen, die wie wie bisher mit $z$ bezeichnet werden.
  • Über eine eventuelle Zeitdiskretisierung wird hier keine Aussage getroffen, das heißt, kontinuierliche Zufallsgrößen können durchaus zeitdiskret sein.
  • Weiter setzen wir für dieses Kapitel voraus, dass zwischen den einzelnen Abtastwerten $x_ν$ keine statistischen Bindungen bestehen, oder lassen diese zumindest außer Betracht.


Das folgende Bild zeigt einen Ausschnitt eines stochastischen Rauschsignals $x(t)$, dessen Momentanwert als eine kontinuierliche Zufallsgröße $x$ aufgefasst werden kann.

Signal und WDF eines Gaußschen Rauschsignals

Aus der rechts dargestellten Wahrscheinlichkeitsdichtefunktion (WDF) erkennt man, dass bei diesem Beispielsignal Momentanwerte um den Mittelwert $m_1$ am häufigsten auftreten. Da zwischen den Abtastwerten $x_ν$ keine statistischen Bindungen bestehen, spricht man bei einem solchen Signal auch von „Weißem Rauschen”.

Definition der Wahrscheinlichkeitsdichtefunktion

Bei einer kontinuierlichen Zufallsgröße sind die Wahrscheinlichkeiten, dass diese ganz bestimmte Werte annimmt, identisch $0$. Deshalb muss zur Beschreibung einer kontinuierlichen Zufallsgröße stets auf die Wahrscheinlichkeitsdichtefunktion – abgekürzt WDF – übergegangen werden.

Der Wert der Wahrscheinlichkeitsdichtefunktion $f_{x}(x)$ an der Stelle $x_\mu$ ist gleich der Wahrscheinlichkeit, dass der Momentanwert der Zufallsgröße $x$ in einem (unendlich kleinen) Intervall der Breite $Δx$ um $x_\mu$ liegt, dividiert durch $Δx$: $$f_x(x=x_\mu) = \lim_{\rm \Delta \it x \hspace{0.05cm}\to \hspace{0.05cm}\rm 0}\frac{\rm Pr \{\it x_\mu-\rm \Delta \it x/\rm 2 \le \it x \le x_\mu \rm +\rm \Delta \it x/\rm 2\}}{\rm \Delta \it x}.$$


Diese äußerst wichtige Beschreibungsgröße weist folgende Eigenschaften auf:

  • Obwohl aus dem beispielhaften Zeitverlauf auf der letzten Seite zu ersehen ist, dass die häufigsten Signalanteile bei $x = m_1$ liegen und die Wahrscheinlichkeitsdichtefunktion hier ihren größten Wert besitzt, ist die Wahrscheinlichkeit ${\rm Pr}(x = m_1$), dass der Momentanwert exakt gleich dem Mittelwert $m_1$ ist, identisch $0$.
  • Für die Wahrscheinlichkeit, dass die Zufallsgröße im Bereich zwischen $x_u$ und $x_o$ liegt, gilt:
$${\rm Pr}(x_{\rm u} \le x \le x_{\rm o}) = \int_{x_{\rm u}}^{x_{\rm o}} f_{x}(x) \,{\rm d}x.$$
  • Als wichtige Normierungseigenschaft ergibt sich daraus für die Fläche unter der WDF mit den Grenzübergängen $x_{\rm u} → \hspace{0.05cm} – \hspace{0.05cm} ∞$ und $x_{\rm o} → +∞:$
$$\int_{-\infty}^{+\infty} f_{x}(x) \,{\rm d}x = \rm 1.$$
  • Die entsprechende Gleichung für wertdiskrete, $M$-stufige Zufallsgrößen sagt aus, dass die Summe über die $M$ Auftrittswahrscheinlichkeiten den Wert $1$ ergibt.


Hinweis zur Nomenklatur: In der Fachliteratur wird meist zwischen der Zufallsgröße $X$ und deren Realisierungen $x ∈ X$ unterschieden. Samit lautet die obige Definitionsgleichung $$f_{X}(X=x) = \lim_{{\rm \Delta} x \hspace{0.05cm}\to \hspace{0.05cm} 0}\frac{{\rm Pr} \{ x-{\rm \Delta} x/2 \le X \le x +{\rm \Delta} x/ 2\}}{{\rm \Delta} x}.$$

Wir haben in unserem Lerntutorial auf diese genauere Nomenklatur weitgehend verzichtet, um nicht für eine Größe zwei Buchstaben zu verbrauchen. Kleinbuchstaben (wie $x$) bezeichnen bei uns oft Signale und Großbuchstaben (wie $X$) die zugehörigen Spektren. Trotzdem müssen wir heute (2017) ehrlicher Weise zugeben, dass die Entscheidung von 2001 nicht ganz glücklich war.

WDF-Definition für diskrete Zufallsgrößen

Aus Gründen einer einheitlichen Darstellung aller Zufallsgrößen (sowohl wertdiskret als auch wertkontinuierlich) ist es zweckmäßig, die Wahrscheinlichkeitsdichtefunktion auch für diskrete Zufallsgrößen zu definieren. Wendet man die Definitionsgleichung der letzten Seite auf diskrete Zufallsgrößen an, so nimmt die WDF an einigen Stellen $x_\mu$ aufgrund des nicht verschwindend kleinen Wahrscheinlichkeitswertes und des Grenzübergangs $Δx → 0$ unendlich große Werte an. Somit ergibt sich für die WDF eine Summe von Diracfunktionen (bzw. Distributionen): $$f_{x}(x)=\sum_{\mu=1}^{M}p_\mu\cdot {\rm \delta}( x-x_\mu).$$

Die Gewichte dieser Diracfunktionen sind gleich den Wahrscheinlichkeiten $p_\mu = {\rm Pr}(x = x_\mu$).

Hier noch ein Hinweis, um die unterschiedlichen Beschreibungsgrößen für diskrete und kontinuierliche Zufallsgrößen einordnen zu können: Wahrscheinlichkeit und Wahrscheinlichkeitsdichtefunktion stehen in ähnlichem Verhältnis zueinander wie im Buch Signaldarstellung

  • ein diskreter Spektralanteil einer harmonischen Schwingung ⇒ Linienspektrum, und
  • ein kontinuierliches Spektrum eines energiebegrenzten (impulsförmigen) Signals.


Nachfolgend sehen Sie einen Ausschnitt eines Rechtecksignals mit drei möglichen Werten, wobei der Signalwert $0 \ \rm V$ doppelt so häufig wie die äußeren Signalwerte ($\pm 1 \ \rm V$) auftritt.

Signal und WDF eines Digitalsignals

Somit lautet die dazugehörige WDF (Anteile von oben nach unten): $$f_{x}(x) = 0.25 \cdot \delta(x-{\rm 1 \ V}) + 0.5\cdot \delta(x) + 0.25\cdot \delta (x + 1\ \rm V).$$


Zur Vertiefung der hier behandelten Thematik empfehlen wir das folgende Lernvideo:

Wahrscheinlichkeit und Wahrscheinlichkeitsdichtefunktion

Numerische Ermittlung der WDF

Sie sehen hier ein Schema zur numerischen Ermittlung der Wahrscheinlichkeitsdichtefunktion.

Zur numerischen Ermittlung der WDF

Setzt man voraus, dass die vorliegende Zufallsgröße $x$ außerhalb des Bereichs von $x_{\rm min} = –4.02$ bis $x_{\rm max} = +4.02$ nur vernachlässigbar kleine Anteile besitzt, so geht man folgendermaßen vor:

  • Man teilt den Wertebereich von $x$ in $I$ Intervalle gleicher Breite $Δx$ ein und definiert ein Feld $\text{WDF}[0 : I–1]$. In obiger Skizze ist $I = 201$ und dementsprechend $Δx = 0.04$ gewählt.
  • Die Zufallsgröße $x$ wird nun $N$ mal nacheinander aufgerufen und dabei jeweils geprüft, zu welchem Intervall $i_{\rm akt}$ die aktuelle Zufallsgröße $x_{\rm akt}$ gehört: $i_{\rm akt} = ({\rm int})((x + x_{\rm max})/Δx)$.
  • Das entsprechende Feldelement WDF( $i_{\rm akt}$) wird dann um $1$ erhöht. Nach $N$ Durchläufen beinhaltet dann $\text{WDF}[i_{\rm akt}]$ die Anzahl der Zufallszahlen, die zum Intervall $i_{\rm akt}$ gehören.
  • Die tatsächlichen WDF-Werte erhält man, wenn am Ende noch alle Feldelemente $\text{WDF}[i]$ mit $0 ≤ i ≤ I–1$ durch $N · Δx$ dividiert werden.


Aus den eingezeichneten grünen Pfeilen in obiger Grafik erkennt man:

  • Der Wert $x_{\rm akt} = 0.07$ führt zum Ergebnis $i_{\rm akt} =$ (int) ((0.07 + 4.02)/0.04) = (int) $102.25$. Hierbei bedeutet (int) eine Integerwandlung nach der Float-Division   ⇒   $i_{\rm akt} = 102$.
  • Das gleiche Intervall $i_{\rm akt} = 102$ ergibt sich für $0.06 < x_{\rm akt} < 0.10$, zum Beispiel also auch für $x_{\rm akt} = 0.09$.

Aufgaben zum Kapitel

Aufgabe 3.1:   cos² - und Dirac-WDF

Aufgabe 3.1Z:   Dreieckförmige WDF