Informationstheorie: Unterschied zwischen den Versionen
Zeile 35: | Zeile 35: | ||
{{Collapsible-Fuß}} | {{Collapsible-Fuß}} | ||
Der Umfang dieses Buches entspricht einer Lehrveranstaltung mit zwei Semesterwochenstunden (SWS) Vorlesung und einer SWS Übungen. | Der Umfang dieses Buches entspricht einer Lehrveranstaltung mit zwei Semesterwochenstunden (SWS) Vorlesung und einer SWS Übungen. | ||
+ | |||
+ | |||
+ | [[LNTwww:Autoren#Informationstheorie|'''Autoren und Ausgangsmaterialien''']] | ||
Zeile 45: | Zeile 48: | ||
*Forney, G. D.: Information Theory. Stanford University, 1972 | *Forney, G. D.: Information Theory. Stanford University, 1972 | ||
*Friedrichs, B.: Kanalcodierung. Grundlagen und Anwendungen in modernen Kommunikationssystemen. Berlin u.a.: Springer, 1996. ISBN 3-540-58232-0 | *Friedrichs, B.: Kanalcodierung. Grundlagen und Anwendungen in modernen Kommunikationssystemen. Berlin u.a.: Springer, 1996. ISBN 3-540-58232-0 | ||
− | |||
*Gallager, R. G.: Information Theory and Reliable Communication. New York NY u.a.: Wiley, 1968. ISBN 0-471-29048-3 | *Gallager, R. G.: Information Theory and Reliable Communication. New York NY u.a.: Wiley, 1968. ISBN 0-471-29048-3 | ||
− | *Hartley, R. V. L.: Transmission of Information | + | *Hartley, R. V. L.: Transmission of Information. In: Bell System Technical Journal , 7, Nr. 3, pp. 535, 1928 |
*Johannesson, R.: Informationstheorie - Grundlage der (Tele-)Kommunikation. Bonn u.a.: Addison-Wesley, 1992. ISBN 3-89319-465-7 | *Johannesson, R.: Informationstheorie - Grundlage der (Tele-)Kommunikation. Bonn u.a.: Addison-Wesley, 1992. ISBN 3-89319-465-7 | ||
− | |||
*Kramer, G.: Information Theory. Vorlesungsmanuskript, Lehrstuhl für Nachrichtentechnik. München: TU München, 2016 | *Kramer, G.: Information Theory. Vorlesungsmanuskript, Lehrstuhl für Nachrichtentechnik. München: TU München, 2016 | ||
*Küpfmüller, K.: Die Entropie der deutschen Sprache, Fernmeldetechnische Zeitung, Nr. 7, S. 265–272, 1954 | *Küpfmüller, K.: Die Entropie der deutschen Sprache, Fernmeldetechnische Zeitung, Nr. 7, S. 265–272, 1954 | ||
*McEliece, R. J.: The Theory of Information Theory and Coding. Volume 86. Cambridge: Cambridge University Press, 2004. ISBN 978-0-52183-185-7 | *McEliece, R. J.: The Theory of Information Theory and Coding. Volume 86. Cambridge: Cambridge University Press, 2004. ISBN 978-0-52183-185-7 | ||
− | *Mecking, M.: Information Theory. Vorlesungsmanuskript, Lehrstuhl für Nachrichtentechnik. | + | *Mecking, M.: Information Theory. Vorlesungsmanuskript, Lehrstuhl für Nachrichtentechnik. TU München, 2009 |
*Proakis, J. G.; Salehi, M.: Communications Systems Engineering. 2. Aufl. Upper Saddle River, NJ: Prentice Hall, 2002. ISBN 0-130-95007-6 | *Proakis, J. G.; Salehi, M.: Communications Systems Engineering. 2. Aufl. Upper Saddle River, NJ: Prentice Hall, 2002. ISBN 0-130-95007-6 | ||
*Schönfeld, D.; Klimant, H.; Piotraschke, R.: Informations- und Kodierungstheorie. 4. Aufl. Wiesbaden: Vieweg+Teubner Verlag, 2012. ISBN 978-3-83480-647-5 | *Schönfeld, D.; Klimant, H.; Piotraschke, R.: Informations- und Kodierungstheorie. 4. Aufl. Wiesbaden: Vieweg+Teubner Verlag, 2012. ISBN 978-3-83480-647-5 | ||
Zeile 60: | Zeile 61: | ||
*Wyner, A. D.; Ziv, J.: A Theorem on the Entropy of Certain Binary Sequencies and Applications, IEEE Transactions on Information Theory ,IT- 19, Nr. 6, S. *769–772, | *Wyner, A. D.; Ziv, J.: A Theorem on the Entropy of Certain Binary Sequencies and Applications, IEEE Transactions on Information Theory ,IT- 19, Nr. 6, S. *769–772, | ||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
− | |||
__NOTOC__ | __NOTOC__ | ||
__NOEDITSECTION__ | __NOEDITSECTION__ |
Version vom 25. April 2018, 13:41 Uhr
Seit den ersten Anfängen der Nachrichtenübertragung als naturwissenschaftliche Disziplin war es das Bestreben vieler Ingenieure und Mathematiker, ein quantitatives Maß zu finden für die in
- einer Nachricht (hierunter verstehen wir „eine Zusammenstellung von Symbolen und/oder Zuständen“)
- enthaltene Information (ganz allgemein: „die Kenntnis über irgend etwas“)
Die (abstrakte) Information wird durch die (konkrete) Nachricht mitgeteilt und kann als Interpretation einer Nachricht aufgefasst werden. Claude Elwood Shannon gelang es 1948, eine in sich konsistente Theorie über den Informationsgehalt von Nachrichten zu begründen, die zu ihrer Zeit revolutionär war und ein neues, bis heute hochaktuelles Wissenschaftsgebiet kreierte: die nach ihm benannte Shannonsche Informationstheorie.
Inhalt
Der Umfang dieses Buches entspricht einer Lehrveranstaltung mit zwei Semesterwochenstunden (SWS) Vorlesung und einer SWS Übungen.
Autoren und Ausgangsmaterialien
Empfohlene Literatur:
- Abel, J.: Grundlagen des Burrows-Wheeler-Kompressionsalgorithmus, Informatik - Forschung und Entwicklung , 18, Nr. 2, S. 80–87, 2004
- Blahut, R. E.: Principles and Practice of Information Theory. 4. Aufl. Reading, Massachusetts: Addison-Wesley, 1991. ISBN 978-0-20110-709-8
- Bodden, E.; Clasen, M.; Kneis, J.: Algebraische Kodierung. Proseminar. Lehrstuhl für Informatik IV, RWTH Aachen, 2002
- Cover, T. M.; Thomas, J. A.: Elements of Information Theory. 2. Aufl. Hoboken, N.J: Wiley-Interscience, 2006. ISBN 978-0-47124-195-9
- Fano, R. M.: Transmission of Information: A Statistical Theory of Communication. Cambridge, Mass.: MIT Press, 1968. ISBN 978-0-26256-169-3
- Forney, G. D.: Information Theory. Stanford University, 1972
- Friedrichs, B.: Kanalcodierung. Grundlagen und Anwendungen in modernen Kommunikationssystemen. Berlin u.a.: Springer, 1996. ISBN 3-540-58232-0
- Gallager, R. G.: Information Theory and Reliable Communication. New York NY u.a.: Wiley, 1968. ISBN 0-471-29048-3
- Hartley, R. V. L.: Transmission of Information. In: Bell System Technical Journal , 7, Nr. 3, pp. 535, 1928
- Johannesson, R.: Informationstheorie - Grundlage der (Tele-)Kommunikation. Bonn u.a.: Addison-Wesley, 1992. ISBN 3-89319-465-7
- Kramer, G.: Information Theory. Vorlesungsmanuskript, Lehrstuhl für Nachrichtentechnik. München: TU München, 2016
- Küpfmüller, K.: Die Entropie der deutschen Sprache, Fernmeldetechnische Zeitung, Nr. 7, S. 265–272, 1954
- McEliece, R. J.: The Theory of Information Theory and Coding. Volume 86. Cambridge: Cambridge University Press, 2004. ISBN 978-0-52183-185-7
- Mecking, M.: Information Theory. Vorlesungsmanuskript, Lehrstuhl für Nachrichtentechnik. TU München, 2009
- Proakis, J. G.; Salehi, M.: Communications Systems Engineering. 2. Aufl. Upper Saddle River, NJ: Prentice Hall, 2002. ISBN 0-130-95007-6
- Schönfeld, D.; Klimant, H.; Piotraschke, R.: Informations- und Kodierungstheorie. 4. Aufl. Wiesbaden: Vieweg+Teubner Verlag, 2012. ISBN 978-3-83480-647-5
- Shannon, C. E.: A Mathematical Theory of Communication, Bell System Technical Journal ,Band 27, Nr. 3, S. 379–423 und S.623-656, 1948
- Shannon, C. E.: Prediction and Entropy of Printed English, Bell System Technical Journal ,Band 30, Nr. 1, S. 50–64, 1951
- Wyner, A. D.; Ziv, J.: A Theorem on the Entropy of Certain Binary Sequencies and Applications, IEEE Transactions on Information Theory ,IT- 19, Nr. 6, S. *769–772,