Grundbegriffe der Informationstheorie und der Kanalcodierung

Zusammenfassung

Die Informationstheorie liefert eine mathematische Definition der „Information“und macht sie so zu einer messbaren Größe wie Spannung, Temperatur, usw. Damit wird es möglich „Information“in technischen Systemen quantitativ zu bestimmen und ihren Fluss zu optimieren. Ein wichtiges Anwendungsfeld der Informationstheorie ist die redundanzmindernde Quellencodierung, die den Übertragungsaufwand reduziert. Als Beispiel wird im Abschnitt 7.2 die Huffman-Codierung vorgestellt. Die Kanalcodierung hingegen fügt der Nachricht gezielt Redundanz hinzu, so dass der Empfänger Übertragungsfehler erkennen oder sogar korrigieren kann. Dies kann in einfacher Weise, wie in Abschnitt 7.3 gezeigt wird, durch die zusätzlichen Prüfzeichen des Hamming-Codes geschehen.