Aufgaben:Aufgabe 2.3Z: Zur LZ77-Codierung: Unterschied zwischen den Versionen

Aus LNTwww
Wechseln zu:Navigation, Suche
Zeile 3: Zeile 3:
 
}}
 
}}
  
[[Datei:P_ID2436__Inf_Z_2_3.png|right|frame|Sliding–Window mit&nbsp; $G = 4$&nbsp; und&nbsp; $G = 5$<br>(gültig für &bdquo;LZ77&rdquo;]]
+
[[Datei:P_ID2436__Inf_Z_2_3.png|right|frame|Sliding–Window mit&nbsp; $G = 4$&nbsp; und&nbsp; $G = 5$<br>(gültig für &bdquo;LZ77&rdquo;)]]
In der&nbsp; [[Aufgaben:2.3_Zur_LZ78-Komprimierung|Aufgabe 2.3]]&nbsp; sollten Sie&nbsp; <b>BARBARA&ndash;BAR</b>&nbsp; (String der Länge&nbsp; $11$, vier verschiedene Zeichen)&nbsp; mit dem LZ78&ndash;Algorithmus komprimieren.&nbsp;  
+
In der&nbsp; [[Aufgaben:2.3_Zur_LZ78-Komprimierung|Aufgabe 2.3]]&nbsp; sollten Sie&nbsp; "<b>BARBARA&ndash;BAR"</b>&nbsp; (String der Länge&nbsp; $11$, vier verschiedene Zeichen)&nbsp; mit dem LZ78&ndash;Algorithmus komprimieren.&nbsp;  
  
 
In dieser Aufgabe verwenden wir den gleichen Text zur Demonstration der LZ77&ndash;Komprimierung.&nbsp; Anzumerken ist:
 
In dieser Aufgabe verwenden wir den gleichen Text zur Demonstration der LZ77&ndash;Komprimierung.&nbsp; Anzumerken ist:
 
* Während beim Nachfolger &bdquo;LZ78&rdquo; sukzessive ein globales Wörterbuch aufgebaut wird, verwendet &bdquo;LZ77&rdquo;  ein lokales Wörterbuch.
 
* Während beim Nachfolger &bdquo;LZ78&rdquo; sukzessive ein globales Wörterbuch aufgebaut wird, verwendet &bdquo;LZ77&rdquo;  ein lokales Wörterbuch.
* Das LZ77&ndash;Verfahren arbeitet mit einem&nbsp; <i>Sliding Window</i>, das schrittweise über den Eingabetext verschoben wird.
+
* Das LZ77&ndash;Verfahren arbeitet mit einem&nbsp; &bdquo;Sliding Window&rdquo;, das schrittweise über den Eingabetext verschoben wird.
* Dieses &bdquo;gleitende Fenster&rdquo; ist unterteilt in den&nbsp; ''Vorschaupuffer''&nbsp; (in der Grafik blau hinterlegt) und den&nbsp; ''Suchpuffer''&nbsp; (rote Hinterlegung).&nbsp; Beide Puffer haben je eine Größe von&nbsp; $G$&nbsp; Speicherplätzen.
+
* Dieses &bdquo;gleitende Fenster&rdquo; ist unterteilt in den&nbsp; &bdquo;Vorschaupuffer&rdquo;&nbsp; (in der Grafik blau hinterlegt) und den&nbsp; &bdquo;Suchpuffer&rdquo;&nbsp; (rote Hinterlegung).&nbsp; Beide Puffer haben je eine Größe von&nbsp; $G$&nbsp; Speicherplätzen.
 
* Jeder Codierschritt&nbsp; $i$&nbsp; wird durch ein Zahlentriple&nbsp; $(P,\ L,\ Z)$&nbsp; charakterisiert.&nbsp; Hierbei sind&nbsp; $P$&nbsp; und&nbsp; $L$&nbsp; Integergrößen und&nbsp; $Z$&nbsp; ein Character.&nbsp; Übertragen werden die Binärdarstellungen von&nbsp; $P$,&nbsp; $L$&nbsp; und&nbsp; $Z$.
 
* Jeder Codierschritt&nbsp; $i$&nbsp; wird durch ein Zahlentriple&nbsp; $(P,\ L,\ Z)$&nbsp; charakterisiert.&nbsp; Hierbei sind&nbsp; $P$&nbsp; und&nbsp; $L$&nbsp; Integergrößen und&nbsp; $Z$&nbsp; ein Character.&nbsp; Übertragen werden die Binärdarstellungen von&nbsp; $P$,&nbsp; $L$&nbsp; und&nbsp; $Z$.
* Nach der Übertragung wird das&nbsp; <i>Sliding Window</i>&nbsp; um eine oder mehrere Positionen nach rechts verschoben und es beginnt der nächste Codierschritt&nbsp; $i + 1$.
+
* Nach der Übertragung wird das&nbsp; &bdquo;Sliding Window&rdquo;&nbsp; um eine oder mehrere Positionen nach rechts verschoben und es beginnt der nächste Codierschritt&nbsp; $i + 1$.
  
  
Zeile 27: Zeile 27:
  
 
Je größer der LZ77&ndash;Parameter&nbsp; $G$&nbsp; ist, um so leichter findet man eine möglichst lange Übereinstimmung.&nbsp; In der Teilaufgabe&nbsp; '''(4)'''&nbsp; werden Sie feststellen, dass die LZ77&ndash;Codierung mit&nbsp; $G = 5$&nbsp; ein besseres Ergebnis liefert als diejenige mit&nbsp; $G = 4$.
 
Je größer der LZ77&ndash;Parameter&nbsp; $G$&nbsp; ist, um so leichter findet man eine möglichst lange Übereinstimmung.&nbsp; In der Teilaufgabe&nbsp; '''(4)'''&nbsp; werden Sie feststellen, dass die LZ77&ndash;Codierung mit&nbsp; $G = 5$&nbsp; ein besseres Ergebnis liefert als diejenige mit&nbsp; $G = 4$.
* Aufgrund der späteren Binärdarstellung von&nbsp; $P$ wird&nbsp; man allerdings&nbsp; $G$&nbsp; stets als Zweierpotenz wählen, so dass&nbsp; $G$&nbsp; mit&nbsp; $\log_2 \ P$&nbsp; Bit darstellbar ist&nbsp; $(G = 8$ &nbsp; &#8658; &nbsp; dreistellige Binärzahl&nbsp; $P)$.  
+
* Aufgrund der späteren Binärdarstellung von&nbsp; $P$ wird&nbsp; man allerdings&nbsp; $G$&nbsp; stets als Zweierpotenz wählen, so dass&nbsp; $G$&nbsp; mit&nbsp; $\log_2 \ P$&nbsp; Bit darstellbar ist&nbsp; <br>$(G = 8$ &nbsp; &#8658; &nbsp; dreistellige Binärzahl&nbsp; $P)$.  
*Das heißt, ein&nbsp; <i>Sliding Window</i>&nbsp; mit&nbsp; $G = 5$&nbsp; hat eher einen geringen Praxisbezug.
+
*Das heißt, ein&nbsp; &bdquo;Sliding Window&rdquo;&nbsp; mit&nbsp; $G = 5$&nbsp; hat eher einen geringen Praxisbezug.
  
  
Zeile 37: Zeile 37:
 
*Die Aufgabe gehört zum  Kapitel&nbsp; [[Informationstheorie/Komprimierung_nach_Lempel,_Ziv_und_Welch|Komprimierung nach Lempel, Ziv und Welch]].
 
*Die Aufgabe gehört zum  Kapitel&nbsp; [[Informationstheorie/Komprimierung_nach_Lempel,_Ziv_und_Welch|Komprimierung nach Lempel, Ziv und Welch]].
 
*Insbesondere wird auf die Seite&nbsp; [[Informationstheorie/Komprimierung_nach_Lempel,_Ziv_und_Welch#LZ77_.E2.80.93_die_Grundform_der_Lempel.E2.80.93Ziv.E2.80.93Algorithmen|LZ77 &ndash; die Grundform der Lempel-Ziv-Algorithmen]]&nbsp; Bezug genommen.
 
*Insbesondere wird auf die Seite&nbsp; [[Informationstheorie/Komprimierung_nach_Lempel,_Ziv_und_Welch#LZ77_.E2.80.93_die_Grundform_der_Lempel.E2.80.93Ziv.E2.80.93Algorithmen|LZ77 &ndash; die Grundform der Lempel-Ziv-Algorithmen]]&nbsp; Bezug genommen.
*Die Originalliteratur&nbsp; [LZ77]&nbsp; zu diesem Verfahren lautet: <br>Ziv, J.; Lempel, A.: ''A Universal Algorithm for Sequential Data Compression.'' In: IEEE Transactions on Information Theory, no. 3, vol. 23, 1977, p. 337–343.
+
*Die Originalliteratur&nbsp; [LZ77]&nbsp; zu diesem Verfahren lautet: <br>Ziv, J.; Lempel, A.:&nbsp; A Universal Algorithm for Sequential Data Compression.&nbsp; In: IEEE Transactions on Information Theory, no. 3, vol. 23, 1977, p. 337–343.
 
   
 
   
 
*Die&nbsp; [[Aufgaben:2.3_Zur_LZ78-Komprimierung|Aufgabe 2.3]]&nbsp; sowie die&nbsp; [[Aufgaben:Aufgabe_2.4:_Zum_LZW-Algorithmus|Aufgabe 2.4]]&nbsp; behandeln andere Lempel&ndash;Ziv-Verfahren in ähnlicher Weise.
 
*Die&nbsp; [[Aufgaben:2.3_Zur_LZ78-Komprimierung|Aufgabe 2.3]]&nbsp; sowie die&nbsp; [[Aufgaben:Aufgabe_2.4:_Zum_LZW-Algorithmus|Aufgabe 2.4]]&nbsp; behandeln andere Lempel&ndash;Ziv-Verfahren in ähnlicher Weise.

Version vom 12. Juli 2021, 14:58 Uhr

Sliding–Window mit  $G = 4$  und  $G = 5$
(gültig für „LZ77”)

In der  Aufgabe 2.3  sollten Sie  "BARBARA–BAR"  (String der Länge  $11$, vier verschiedene Zeichen)  mit dem LZ78–Algorithmus komprimieren. 

In dieser Aufgabe verwenden wir den gleichen Text zur Demonstration der LZ77–Komprimierung.  Anzumerken ist:

  • Während beim Nachfolger „LZ78” sukzessive ein globales Wörterbuch aufgebaut wird, verwendet „LZ77” ein lokales Wörterbuch.
  • Das LZ77–Verfahren arbeitet mit einem  „Sliding Window”, das schrittweise über den Eingabetext verschoben wird.
  • Dieses „gleitende Fenster” ist unterteilt in den  „Vorschaupuffer”  (in der Grafik blau hinterlegt) und den  „Suchpuffer”  (rote Hinterlegung).  Beide Puffer haben je eine Größe von  $G$  Speicherplätzen.
  • Jeder Codierschritt  $i$  wird durch ein Zahlentriple  $(P,\ L,\ Z)$  charakterisiert.  Hierbei sind  $P$  und  $L$  Integergrößen und  $Z$  ein Character.  Übertragen werden die Binärdarstellungen von  $P$,  $L$  und  $Z$.
  • Nach der Übertragung wird das  „Sliding Window”  um eine oder mehrere Positionen nach rechts verschoben und es beginnt der nächste Codierschritt  $i + 1$.


Die obere Grafik zeigt die Anfangsbelegung mit der Puffergröße  $G = 4$  zu den Zeitpunkten  $i = 1$  sowie  $i = 4$.

  • Zum Zeitpunkt  $i = 1$  ist der Suchpuffer leer, so dass die Coderausgabe  $(0, 0,$ B$)$  lautet.
  • Nach der Verschiebung um eine Position beinhaltet der Suchpuffer ein  B, aber keinen String, der mit  A  anfängt.  Das zweite Zahlentriple ist somit  $(0, 0,$ A$)$.
  • Die Ausgabe für  $i = 3$  lautet  $(0, 0,$ R$)$, da im Suchpuffer auch jetzt keine mit  R  beginnende Zeichenfolge zu finden ist.


Die Momentaufnahme zum Zeitpunkt  $i = 4$  ist ebenfalls in der Grafik angegeben.  Gesucht ist nun die Zeichenfolge im Suchpuffer, die mit dem Vorschautext  BARA  am besten übereinstimmt.  Übertragen wird wieder ein Zahlentriple  $(P,\ L,\ Z)$, aber nun mit folgender Bedeutung:

  • $P$  gibt die Position im (roten) Suchpuffer an, bei der die Übereinstimmung beginnt.  Die  $P$–Werte der einzelnen Speicherplätze kann man der Grafik entnehmen.
  • $L$  bezeichnet die Anzahl der Zeichen im Suchpuffer, die beginnend bei  $P$  mit dem aktuellen String im Vorschaupuffer übereinstimmen.
  • $Z$  bezeichnet schließlich das erste Zeichen im Vorschaupuffer, das sich vom gefundenen Übereinstimmungs–String im Suchpuffer unterscheidet.


Je größer der LZ77–Parameter  $G$  ist, um so leichter findet man eine möglichst lange Übereinstimmung.  In der Teilaufgabe  (4)  werden Sie feststellen, dass die LZ77–Codierung mit  $G = 5$  ein besseres Ergebnis liefert als diejenige mit  $G = 4$.

  • Aufgrund der späteren Binärdarstellung von  $P$ wird  man allerdings  $G$  stets als Zweierpotenz wählen, so dass  $G$  mit  $\log_2 \ P$  Bit darstellbar ist 
    $(G = 8$   ⇒   dreistellige Binärzahl  $P)$.
  • Das heißt, ein  „Sliding Window”  mit  $G = 5$  hat eher einen geringen Praxisbezug.



Hinweise:


Fragebogen

1

Wie lautet die LZ77–Ausgabe mit  $G = 4$  beim Schritt  $i = 4$?

$(0, 0,$ B$)$,
$(2, 1,$ A$)$,
$(2, 3,$ A$)$.

2

Welche Aussage gilt für die gleiche Puffergröße  $G = 4$  beim Schritt  $i = 5$?

Im Suchpuffer steht  BARA.
Im Vorschaupuffer steht  –BAR.
Die Ausgabe lautet  $(0, 0,$ A$)$.

3

Nach welchem Schritt  $i_{\rm Ende}$  ist die Codierung mit  $G = 4$  beendet?

$i_{\rm Ende} \ = \ $

4

Nun gelte  $G = 5$.  Nach welchem Schritt  $i_{\rm Ende}$  ist nun die Codierung beendet?

$i_{\rm Ende} \ = \ $

5

Welche Vorteile hat LZ78 gegenüber LZ77 bei „sehr großen” Dateien?

Man findet häufiger bereits abgelegte Phrasen im Wörterbuch.
Pro Codierschritt müssen weniger Bit übertragen werden.


Musterlösung

Beispiel zum LZ77–Algorithmus mit  $G = 4$

(1)  Richtig ist der Lösungsvorschlag 3.

  • Im Vorschaupuffer steht zum betrachteten Zeitpunkt  $i = 4$  die Zeichenfolge  BARA.
  • Im Suchpuffer steht in den letzten drei Stellen  BAR:
$$P = 2\hspace{0.05cm},\hspace{0.2cm}L = 3\hspace{0.05cm},\hspace{0.2cm}Z = \boldsymbol{\rm A}\hspace{0.05cm}.$$


(2)  Richtig sind die beiden ersten Lösungsvorschläge:

  • Der Bindestrich findet sich zum Zeitpunkt  $i = 5$  nicht im Suchpuffer.
  • Ausgegeben wird  $(0, 0,$ $)$.


(3)  Die obere Grafik zeigt das  Sliding–Window  und die Coderausgabe zu den Zeiten  $i>5$.

  • Nach  $i = 9$  Codierschritten ist der Codiervorgang unter Berücksichtigung von  eof  beendet   ⇒   $\underline{i_{\rm Ende} = 9}$.


Beispiel zum LZ77–Algorithmus mit  $G = 5$

(4)  Bei größerer Puffergröße  $(G = 5$  anstelle von  $G = 4)$  ist die Codierung schon nach dem 6. Codierschritt abgeschlossen   ⇒   $\underline{i_{\rm Ende} = 6}$.

  • Ein Vergleich der beiden Grafiken zeigt, dass sich für  $G = 5$  gegenüber  $G = 4$  bis einschließlich  $i = 5$  nichts ändert.
  • Aufgrund des größeren Puffers lässt sich aber nun  BAR  gemeinsam mit  eof  (end-of-file) in einem einzigen Schritt codieren, während mit  $G = 4$  hierfür vier Schritte notwendig waren.


(5)  Richtig ist nur die Aussage 1.

  • Ein Nachteil von LZ77 ist das lokale Wörterbuch.  Eigentlich schon bekannte Phrasen können nicht für die Datenkomprimierung verwendet werden, wenn sie mehr als  $G$  Zeichen vorher im Text aufgetreten sind.  Dagegen sind bei LZ78 alle Phrasen im globalen Wörterbuch abgelegt.
  • Richtig ist zwar, dass bei LZ78 nur Pärchen  $(I, \ Z)$  übertragen werden müssen, während bei LZ77 jeder Codierschritt durch ein Triple  $(P, \ L, \ Z)$  gekennzeichnet ist.  Das bedeutet aber noch nicht, dass pro Codierschritt auch weniger Bit übertragen werden müssen.
  • Betrachten wir beispielhaft die Puffergröße  $G = 8$.  Bei LZ77 muss man dann  $P$  mit drei Bit und  $L$  mit vier Bit dargestellen.  Beachten Sie bitte, dass die gefundene Übereinstimmung zwischen Vorschaupuffer und Suchpuffer auch im Vorschaupuffer enden darf.
  • Das neue Zeichen  $Z$  benötigt bei LZ78 genau die gleiche Bitanzahl wie bei LZ77 (nämlich zwei Bit), wenn man wie hier vom Symbolumfang  $M = 4$  ausgeht.
  • Die Aussage 2 wäre nur dann richtig, wenn  $N_{\rm I}$  kleiner wäre als  $N_{\rm P}+ N_{\rm L}$, beispielsweise  $N_{\rm I} = 6$. Das würde aber bedeuten, dass man die Wörterbuchgröße auf  $I = 2^6 = 64$  begrenzen müsste.  Dies reicht für große Dateien nicht aus.
  • Unsere Überschlagsrechnung basiert allerdings auf einer einheitlichen Bitanzahl für den Index  $I$.  Mit variabler Bitanzahl für den Index kann man etliche Bit einsparen, indem man  $I$  nur mit so vielen Bit überträgt, wie es für den Codierschritt  $i$  erforderlich ist.
  • Prinzipiell ändert das aber nichts an der Beschränkung der Wörterbuchgröße, was bei großen Dateien stets zu Problemen führen wird.