Stochastische Signaltheorie/Mengentheoretische Grundlagen

1. Stochastische Signaltheorie
2. Wahrscheinlichkeitsrechnung
3. Mengentheoretische Grundlagen

• Vorherige Seite
• Nächste Seite

• Vorherige Seite
• Nächste Seite

Venndiagramm, Grundmenge und leere Menge

In späteren Kapitel wird manchmal auf die Mengenlehre Bezug genommen. Deshalb sollen hier die wichtigsten Grundlagen und Definitionen dieser Disziplin kurz zusammengefasst werden. Die Thematik wird auch im folgenden Lernvideo am Beispiel europäischer Staaten behandelt:

Ein wichtiges Hilfsmittel der Mengenlehre ist das Venndiagramm gemäß dem folgenden Bild.

Angewandt auf die Wahrscheinlichkeitsrechnung sind hier die Ereignisse $A_i$ als Flächenbereiche dargestellt. Zur einfacheren Beschreibung bezeichnen wir hier die Ereignisse im Gegensatz zu Kapitel 1.1 nicht mit $A_1, A_2, A_3$ usw., sondern mit $A, B$ und $C$. Die Gesamtfläche entspricht der Grundmenge $G$.

Die Grundmenge $G$ beinhaltet alle möglichen Ergebnisse und steht für das sichere Ereignis, das definitionsgemäß mit der Wahrscheinlichkeit „Eins” eintritt: Pr( $G$) = 1. Zum Beispiel ist beim Zufallsexperiment Werfen eines Würfels die Wahrscheinlichkeit für das Ereignis „die Augenzahl ist kleiner oder gleich 6” identisch 1.

Dagegen beinhaltet die leere Menge $ϕ$ kein einziges Element. Bezogen auf Ereignisse gibt die leere Menge das unmögliche Ereignis mit der Wahrscheinlichkeit Pr( $ϕ$) = 0 an. Beispielsweise ist beim Experiment Werfen eines Würfels die Wahrscheinlichkeit für das Ereignis „die Augenzahl ist größer als 6” identisch 0.

Weiter ist anzumerken, dass nicht jedes Ereignis $A$ mit Pr( $A$) = 0 wirklich nie eintreten kann. So ist die Wahrscheinlichkeit des Ereignisses „der Rauschwert $n$ ist identisch 0” zwar verschwindend klein und es gilt Pr( $n$ = 0) = 0, wenn $n$ durch eine kontinuierliche Zufallsgröße beschrieben wird. Trotzdem ist es natürlich möglich, dass irgendwann auch der exakte Rauschwert $n$ = 0 auftritt.

Vereinigungsmenge

Anhand des Venndiagramms werden nun einige mengentheoretische Verknüpfungen erläutert.

Die Vereinigungsmenge $C$ zweier Mengen $A$ und $B$ beinhaltet alle die Elemente, die entweder in der Menge $A$ oder der Menge $B$ oder in beiden enthalten sind (englisch: Set Union ). Formelmäßig wird dieser Zusammenhang wie folgt ausgedrückt: $$\ C = A \cup B \hspace{0.1cm}(= A + B).$$

In der Literatur ist auch die Bezeichnung Summenmenge gebräuchlich und es wird manchmal das Pluszeichen benutzt. In unserem Tutorial verwenden wir jedoch ausschließlich das $∪$-Zeichen.

Anhand des Bildes sind die folgenden Gesetzmäßigkeiten der Mengenlehre leicht einzusehen: $$A \cup \it \phi = A \rm \hspace{3.6cm}(Vereinigung \hspace{0.15cm}mit \hspace{0.15cm}der \hspace{0.15cm}leeren \hspace{0.15cm}Menge),$$ $$A\cup G = G \rm \hspace{3.6cm}(Vereinigung \hspace{0.15cm}mit \hspace{0.15cm}der \hspace{0.15cm}Grundmenge),$$ $$A\cup A = A \hspace{3.6cm}(\rm Tautologiegesetz),$$ $$A\cup B = B\cup A \hspace{2.75cm}(\rm Kommutativgesetz),$$ $$(A\cup B)\cup C = A\cup (B\cup C) \hspace{0.55cm}(\rm Assoziativgesetz).$$

Ist über die Ereignismengen $A$ und $B$ nichts weiter bekannt, so können für die Wahrscheinlichkeit der Vereinigungsmenge nur eine untere und eine obere Schranke angegeben werden: $$\rm Max(Pr (\it A), \rm Pr (\it B)) \le \rm Pr (\it A \cup \it B) \le \rm Pr (\it A) + \rm Pr (\it B).$$

Die Wahrscheinlichkeit der Vereinigungsmenge ist gleich der unteren Schranke, wenn $A$ eine Teilmenge von $B$ ist oder umgekehrt. Die obere Schranke gilt für disjunkte Mengen.

Betrachtet man die beiden Ereignisse

• $A =$ „die Augenzahl ist größer oder gleich 5” = {5, 6},
• $B =$ „die Augenzahl ist geradzahlig” = {2, 4, 6},

so beinhaltet die Vereinigungsmenge die vier Elemente {2, 4, 5, 6}. Die Wahrscheinlichkeiten sind Pr( $A$) = 2/6, Pr( $B$) = 3/6 und Pr( $A ∪ B$) = 4/6. Die untere und die obere Schranke gemäß den hier angegebenen Ungleichungen ergeben sich zu 3/6 und 5/6.

Schnittmenge

Eine weitere wichtige mengentheoretische Verknüpfung stellt die Schnittmenge dar.

Die Schnittmenge $C$ zweier Mengen $A$ und $B$ beinhaltet alle diejenigen Elemente, die sowohl in der Menge $A$ als auch in der Menge $B$ enthalten sind (englisch: Intersecting Set ). Formelmäßig wird dieser Zusammenhang wie folgt ausgedrückt: $$C = A \cap B \hspace{0.2cm}(= A \cdot B).$$

In der Literatur ist hierfür auch die Bezeichnung Produktmenge gebräuchlich und man verwendet das Multiplikationssymbol. Im nachfolgenden Bild ist die Schnittmenge violett dargestellt.

Analog zur Vereinigungsmenge sind hier folgende Gesetzmäßigkeiten zu nennen: $$A \cap \it \phi = \it \phi \rm \hspace{3.75cm}(Schnitt \hspace{0.15cm}mit \hspace{0.15cm}der \hspace{0.15cm}leeren \hspace{0.15cm}Menge),$$ $$A \cap G = A \rm \hspace{3.6cm}(Schnitt \hspace{0.15cm}mit \hspace{0.15cm}der \hspace{0.15cm}Grundmenge),$$ $$A\cap A = A \rm \hspace{3.6cm}(Tautologiegesetz),$$ $$A\cap B = B\cap A \rm \hspace{2.75cm}(Kommutativgesetz),$$ $$(A\cap B)\cap C = A\cap (B\cap C) \rm \hspace{0.55cm}(Assoziativgesetz).$$

Ist über die Mengen $A$ und $B$ nichts weiter bekannt, so kann auch für die Wahrscheinlichkeit der Schnittmenge nur eine untere und eine obere Schranke angegeben werden: $$\rm 0 \le Pr(\it A \cap \it B) \le \rm Min (Pr(\it A), \rm Pr(\it B)).$$

Pr( $A ∩ B$) wird auch Verbundwahrscheinlichkeit genannt und manchmal mit Pr( $A, B$) bezeichnet. Sie ist gleich der oberen Schranke, wenn $A$ eine Teilmenge von $B$ ist oder umgekehrt. Die untere Schranke ergibt sich für die Verbundwahrscheinlichkeit von disjunkten Mengen.

Die Ereignissen seien wieder $A$ = „die Augenzahl ist größer oder gleich 5” = {5, 6} sowie $B$ = „die Augenzahl ist geradzahlig” = {2, 4, 6}. Die Schnittmenge beinhaltet nur ein einziges Element: $A ∩ B$ = {6}. Mit Pr( $A$) = 2/6 und Pr( $B$) = 3/6 ergibt sich Pr( $A ∩ B$) = 1/6.

Die untere und obere Schranke entsprechend den angegebenen Ungleichungen sind 0 und 2/6.

Komplementärmenge

Die Komplementärmenge (englisch: Complementary Set) von $A$ wird oft durch eine überstreichende Linie gekennzeichnet. Sie beinhaltet alle die Elemente, die in der Menge $A$ nicht enthalten sind, und es gilt für deren Wahrscheinlichkeit: $$\rm Pr(\overline{\it A}) = 1- Pr(\it A).$$

Im nachfolgenden Venndiagramm ist die zu $A$ komplementäre Menge schraffiert dargestellt.

Aus diesem Schaubild sind einige mengentheoretische Beziehungen zu erkennen:

• Die Komplementärmenge der komplementären Menge von $A$ ist die Menge $A$ selbst:

$$\overline{\overline{A}} = A.$$

• Die Vereinigungsmenge einer Menge $A$ mit der Komplentärmenge ergibt die Grundmenge:

$$\rm Pr(\it A \cup \overline{\it A}) = \rm Pr(\it G) = \rm 1.$$

• Die Schnittmenge von $A$ mit der zugehörigen Komplementärmenge ergibt die leere Menge:

$$\rm Pr(\it A \cap \overline{\it A}) = \rm Pr(\it \phi) \rm = 0.$$

Ausgehend von der Menge $A$ = „die Augenzahl ist kleiner als 5” lautet die zugehörige Komplentärmenge in Worten: „die Augenzahl ist größer oder gleich 5”. Die Wahrscheinlichkeit dieser Komplentärmenge berechnet sich zu 1 − Pr( $A$) = 1 − 2/3 = 1/3.

Echte Teilmenge – unechte Teilmenge

Diese mengentheoretische Relation wird durch das folgende Venndiagramm veranschaulicht.

Man bezeichnet $A$ als eine echte Teilmenge von $B$ und schreibt hierfür $A ⊂ B$, wenn alle Elemente von $A$ auch in $B$ enthalten sind, aber nicht gleichzeitig alle Elemente von $B$ auch in $A$ (englisch: Strict Subset). In diesem Fall gilt für die Wahrscheinlichkeiten: $$\rm Pr(\it A) < \rm Pr(\it B).$$

Dagegen bezeichnet man $A$ als eine unechte Teilmenge von $B$ und verwendet die folgende Notation, wenn $A$ entweder eine echte Teilmenge von $B$ ist oder $A$ und $B$ gleiche Mengen sind: $$A \subseteq B = (A \subset B) \cup (A = B).$$

Für die Wahrscheinlichkeiten gilt dann die Größenrelation Pr( $A$) ≤ Pr( $B$). Das Gleichheitszeichen gilt nur für den Sonderfall identischer Mengen. Da

• die Schnittmenge $A ∩ B$ stets eine Teilmenge von $A$ ist,
• $A$ aber auch gleichzeitig eine Teilmenge der Vereinigungsmenge $A ∪ B$ ist,

gelten auch die beiden als Absorptionsgesetze bekannten Gleichungen: $$(A \cap B) \cup A = A ,$$ $$(A \cup B) \cap A = A.$$

Die Menge $A$ = „die Augenzahl ist ungerade” = {1, 3, 5} ist eine (echte) Teilmenge der Menge $B$ = „die Augenzahl ist eine Primzahl” = {1, 2, 3, 5}, wenn $G$ die Zahlen 1 bis 6 enthält. Die Wahrscheinlichkeit Pr( $A$) = 3/6 ist deshalb kleiner als Pr(B) = 4/6.

Theoreme von de Morgan

Bei vielen Aufgaben aus der Mengenlehre sind die beiden Theoreme von de Morgan äußerst nützlich. Diese lauten: $$\overline{A \cup B} = \overline{A} \cap \overline{B},$$ $$\overline{A \cap B} = \overline{A} \cup \overline{B}.$$

Diese Gesetzmäßigkeiten sind im folgenden Schaubild veranschaulicht:

• Die Menge $A$ ist rot dargestellt und die Menge $B$ blau.
• Die Komplentärmenge von $A$ ist in horizontaler Richtung schraffiert.
• Die Komplentärmenge von $B$ ist in vertikaler Richtung schraffiert.
• Das Komplement der Vereinigungsmenge ist sowohl horizontal als auch vertikal schraffiert.
• Es ist damit gleich der Schnittmenge der beiden Komplentärmengen von $A$ und $B$.

Die Schnittmenge $A ∩ B$ (im Bild violett dargestellt) ist weder horizontal noch vertikal schraffiert.

• Das Komplement der Schnittmenge ist dementsprechend entweder horizontal, vertikal oder in beiden Richtungen schraffiert.
• Nach dem zweiten Theorem von de Morgan ist das Komplement der Schnittmenge gleich der Vereinigungsmenge der beiden Komplentärmengen von $A$ und $B$.

Wir betrachten nun die beiden Mengen

• $A$ = „die Augenzahl ist ungeradzahlig” = {1, 3, 5},
• $B$ = „die Augenzahl ist größer als 2” = {3, 4, 5, 6}.

Daraus folgen die beiden komplementären Mengen „die Augenzahl ist geradzahlig” = {2, 4, 6} bzw. „die Augenzahl ist kleiner als 3” = {1, 2}. Weiter erhält man mit den obigen Theoremen folgende Mengen: $$\overline{A \cup B} = \overline{A} \cap \overline{B} = \{2\}\hspace{0.5 cm}\rm und \hspace{0.5cm} \overline{\it A \cap \it B} =\overline{\it A} \cup \overline{\it B} = \{1,2,4,6\}.$$

Disjunkte Mengen

Zwei Mengen $A$ und $B$ nennt man disjunkt (englisch: disjoint) oder miteinander unvereinbar, wenn es kein einziges Element gibt, das sowohl in $A$ als auch in $B$ enthalten ist.

Das Schaubild zeigt zwei disjunkte Mengen $A$ und $B$ im Venndiagramm.

In diesem Sonderfall gelten die folgenden Aussagen:

• Die Schnittmenge zweier disjunkter Mengen $A$ und $B$ ergibt stets die leere Menge:

$$\rm Pr(\it A \cap \it B) = \rm Pr(\it \phi) = \rm 0.$$

• Die Wahrscheinlichkeit der Vereinigungsmenge zweier disjunkter Mengen $A$ und $B$ ist immer gleich der Summe der beiden Einzelwahrscheinlichkeiten:

$$\rm Pr(\it A \cup \it B) = \rm Pr(\it A) + \rm Pr(\it B).$$

Die Mengen

• $A$ = „die Augenzahl ist kleiner als 3” = {1, 2} ⇒ Pr( $A$) = 2/6, und
• $B$ = „die Augenzahl ist größer als 3” = {4, 5, 6} ⇒ Pr( $B$) = 3/6

sind zueinander disjunkt, da $A$ und $B$ kein einziges gemeinsames Element beinhalten. Deshalb ist die Wahrscheinlichkeit der Vereinigungsmenge {1, 2, 4, 5, 6} gleich Pr( $A$) + Pr( $B$) = 5/6.