Kapazität von gedächtnislosen digitalen Kanälen

© 2020 Lehr- und Forschungseinheit für Nachrichtentechnik, Technische Universität München
Autoren: Veronika Hofmann, Tasnad Kernetzky & Benedikt Leible
$p_\mathrm{A} =$
0.1
$\Rightarrow p_\mathrm{B} =$
0.9
$p_\mathrm{b|A} =$
0.05
$\Rightarrow p_\mathrm{a|A} =$
0.95
$p_\mathrm{a|B} =$
0.4
$\Rightarrow p_\mathrm{b|B} =$
0.6
Binärquelle
Symbolwahrscheinlichkeiten
Übergangswahrscheinlichkeiten

Beispielhafte Quellensymbolfolge $\langle \hspace{0.05cm} X_n\hspace{0.05cm} \rangle$
Beispielhafte Sinkensymbolfolge $\langle \hspace{0.05cm} Y_n\hspace{0.05cm} \rangle$
$H(XY) =$

Gerichtete Darstellung.

$H(X)$
$H(Y)$
$H(X|Y)$
$H(Y|X)$
$I(X;Y)$
Ergebnisse der analytischen Berechnung für den Binärkanal
BBBBABBBBBBBBBBBBBBBBBBBBBBBBBBBBBBBBBBB
BBBABBBBBBABBABBBBBBBBBBBBBBBBBBBBABBBBB
BBBBBBBBBBBBBBBABBBBBBBBBBBBBBBBBBBABBAB
BBBBBBABBBBBBBBBBBBBBBBBBBBBBBBBBBBBBBBB
BBBBAABBBBBBBBBBBBBBBBBBBBBBBABBBBBBBBBB
bbbbaabababababbbbaabaaaaabaaabbbbabbbab
aababbabababaababbbbbbbbabbbbaaabbbbabbb
bbbabbbbbbbaabaabbabbbbbbbbbabbabbaabbaa
babbbaabaaabbabbbbabbabbbbaabbbbaaabbbab
bbaaaaababbbabbababaabbbaaabbabbbabbbbba
            1.371
0.4690.902
0.3770.994
0.3770.0920.902
0.469
0.377
0.092
0.994
0.902
Verbundwahrscheinlichkeiten
$\mathrm{Pr}(X \cap Y)$
Bedingte Wahrscheinlichkeiten
$\mathrm{Pr}(Y | X)$
Rückschlusswahrscheinlichkeiten
$\mathrm{Pr}(X | Y)$
ab
A0.0950.005
B0.360.54
ab
A0.950.05
B0.40.6
ab
A0.20880.0092
B0.79120.9908
Übungen

* Wählen Sie zunächst die Nummer  ($1$, $2$, ... )  der zu bearbeitenden Aufgabe.  Die Nummer  $0$  entspricht einem „Reset”:  Einstellung wie beim Programmstart.
* Eine Aufgabenbeschreibung wird angezeigt.  Die Parameterwerte sind angepasst.  Lösung nach Drücken von „Musterlösung”.
* Die Quellensymbole werden mit Großbuchstaben bezeichnet (binär: $\rm A$, $\rm B$), die Sinkenssymbole mit Kleinbuchstaben ($\rm a$, $\rm b$).  Fehlerfreie Übertragung: $\rm A \rightarrow a$.
* Bei allen Entropiewerten müsste die Einheit „bit/use” hizugefügt werden.