Informationstheorie: Unterschied zwischen den Versionen

Aus LNTwww
Wechseln zu:Navigation, Suche
Zeile 1: Zeile 1:
 
+
===Kurzer Überblick===
  
 
{{BlaueBox|TEXT=Seit den ersten Anfängen der Nachrichtenübertragung als ingenieurwissenschaftliche Disziplin war es das Bestreben vieler Ingenieure und Mathematiker,  ein quantitatives Maß zu finden für die  
 
{{BlaueBox|TEXT=Seit den ersten Anfängen der Nachrichtenübertragung als ingenieurwissenschaftliche Disziplin war es das Bestreben vieler Ingenieure und Mathematiker,  ein quantitatives Maß zu finden für die  
Zeile 15: Zeile 15:
 
# Quellencodierung und Datenkomprimierung,  insbesondere das Verfahren nach Lempel,  Ziv und Welch sowie die Entropiecodierung nach Huffman.   
 
# Quellencodierung und Datenkomprimierung,  insbesondere das Verfahren nach Lempel,  Ziv und Welch sowie die Entropiecodierung nach Huffman.   
 
# Verschiedene Entropien zweidimensionaler wertdiskreter Zufallsgößen.  Transinformation und Kanalkapazität.  Anwendung auf die Digitalsignalübertragung.     
 
# Verschiedene Entropien zweidimensionaler wertdiskreter Zufallsgößen.  Transinformation und Kanalkapazität.  Anwendung auf die Digitalsignalübertragung.     
# Wertdiskrete Informationstheorie.  Differentielle Entropie.  Zwei- und mehrdimensionale Zufallsgößen:  Autokorrelationsfunktion,  Leistungsdichtespektrum,  Korrelationskoeffizient,  Kreuzkorrelationsfunktion.   
+
# Wertdiskrete Informationstheorie.  Differentielle Entropie.  AWGN–Kanalkapazität bei wertkontinuierlichem sowie wertdiskretem Eingang.   
# Filterung stochastischer Signale   ⇒   Stochastische Systemtheorie.  Digitales Filter.  Eigenschaften von Matched–Filter und Wiener–Kolmogorow–Filter.
 
  
  
Kenntnisse der beiden ersten  $\text{LNTwww}$–Bücher,  die die  [[Signaldarstellung|"Darstellung deterministischer Signale"]]  sowie die  [[Lineare_zeitinvariante_Systeme|"Beschreibung linearer zeitinvarianter Systeme"]]  zum Inhalt haben,  sind für das Verständnis des vorliegenden Buches hilfreich,  aber nicht erforderlich.
+
⇒   Hier zunächst eine  »'''Inhaltsübersicht'''«  anhand der  »'''vier Hauptkapitel'''«  mit insgesamt  »'''dreizehn Einzelkapiteln'''«  und  »'''??? Abschnitten'''«.}} 
 +
  
⇒   Hier zunächst eine  »'''Inhaltsübersicht'''«  anhand der  »'''fünf Hauptkapitel'''«  mit insgesamt  »'''28 Einzelkapiteln'''«  und  »'''166 Abschnitten'''«.}}
 
 
 
 
 
Hier zunächst eine  '''Inhaltsübersicht'''  anhand der  '''vier Hauptkapitel'''  mit insgesamt  '''13 Einzelkapiteln'''. 
 
 
 
===Inhalt===
 
===Inhalt===
 
{{Collapsible-Kopf}}
 
{{Collapsible-Kopf}}
Zeile 56: Zeile 49:
 
}}
 
}}
 
{{Collapsible-Fuß}}
 
{{Collapsible-Fuß}}
 +
 +
===Aufgaben und Multimedia===
 +
 +
 +
{{BlaueBox|TEXT=
 +
 +
Neben diesen Theorieseiten bieten wir auch Aufgaben und multimediale Module zu diesem Thema an,  die zur Verdeutlichung des Lehrstoffes beitragen könnten:
 +
 +
$(1)$    [https://www.lntwww.de/Kategorie:Aufgaben_zu_Informationstheorie $\text{Aufgaben}$]
 +
 +
$(2)$    [[LNTwww:Lernvideos_zu_Informationstheorie|$\text{Lernvideos}$]]
 +
 +
$(3)$    [[LNTwww:Applets_zur_Informationstheorie|$\text{Applets}$]] }}
 +
<br>
 +
===Weitere Links:===
 +
 +
 +
{{BlaueBox|TEXT=
 +
$(4)$&nbsp; &nbsp; [[LNTwww:Literaturempfehlung_zu_Stochastische_Signaltheorie|$\text{Literaturempfehlungen}$]]
 +
 +
$(5)$&nbsp; &nbsp; [[LNTwww:Weitere_Hinweise_zum_Buch_Stochastische_Signaltheorie|$\text{Impressum}$]] }}
 +
<br><br>
  
 
Neben diesen Theorieseiten bieten wir auch Aufgaben und multimediale Module an,&nbsp; die zur Verdeutlichung des Lehrstoffes beitragen könnten:
 
Neben diesen Theorieseiten bieten wir auch Aufgaben und multimediale Module an,&nbsp; die zur Verdeutlichung des Lehrstoffes beitragen könnten:

Version vom 6. März 2023, 13:16 Uhr

Kurzer Überblick

Seit den ersten Anfängen der Nachrichtenübertragung als ingenieurwissenschaftliche Disziplin war es das Bestreben vieler Ingenieure und Mathematiker,  ein quantitatives Maß zu finden für die

  • in einer  $\rm Nachricht$  $($hierunter verstehen wir „eine Zusammenstellung von Symbolen und/oder Zuständen“$)$
  • enthaltene  $\rm Information$  $($ganz allgemein: „die Kenntnis über irgend etwas“$)$.


Die  $($abstrakte$)$  Information wird durch die  $($konkrete$)$  Nachricht mitgeteilt und kann als Interpretation einer Nachricht aufgefasst werden.

Claude Elwood Shannon  gelang es 1948,  eine in sich konsistente Theorie über den Informationsgehalt von Nachrichten zu begründen,  die zu ihrer Zeit revolutionär war und ein neues,  bis heute hochaktuelles Wissenschaftsgebiet kreierte:  die nach ihm benannte  »Shannonsche Informationstheorie«

Damit beschäftigt sich das vierte Buch der  $\rm LNTwww$–Reihe,  insbesondere:

  1. Entropie wertdiskreter gedächtnisloser,  gedächtnisbehafteter sowie natürlicher Nachrichtenquellen:  Definition,  Bedeutung und Berechnungsmöglichkeiten.
  2. Quellencodierung und Datenkomprimierung,  insbesondere das Verfahren nach Lempel,  Ziv und Welch sowie die Entropiecodierung nach Huffman.
  3. Verschiedene Entropien zweidimensionaler wertdiskreter Zufallsgößen.  Transinformation und Kanalkapazität.  Anwendung auf die Digitalsignalübertragung.
  4. Wertdiskrete Informationstheorie.  Differentielle Entropie.  AWGN–Kanalkapazität bei wertkontinuierlichem sowie wertdiskretem Eingang.


⇒   Hier zunächst eine  »Inhaltsübersicht«  anhand der  »vier Hauptkapitel«  mit insgesamt  »dreizehn Einzelkapiteln«  und  »??? Abschnitten«.


Inhalt

Aufgaben und Multimedia

Neben diesen Theorieseiten bieten wir auch Aufgaben und multimediale Module zu diesem Thema an,  die zur Verdeutlichung des Lehrstoffes beitragen könnten:

$(1)$    $\text{Aufgaben}$

$(2)$    $\text{Lernvideos}$

$(3)$    $\text{Applets}$ 


Weitere Links:



Neben diesen Theorieseiten bieten wir auch Aufgaben und multimediale Module an,  die zur Verdeutlichung des Lehrstoffes beitragen könnten:



$\text{Weitere Links:}$

$(1)$    $\text{Literaturempfehlungen zum Buch}$

$(2)$    $\text{Allgemeine Hinweise zum Buch}$   $($Autoren,  weitere Beteiligte,  Materialien als Ausgangspunkt des Buches,  Quellenverzeichnis$)$