Kanalcodierung/Informationstheoretische Grenzen der Kanalcodierung - Versionsgeschichte

Guenter am 18. August 2022 um 14:17 Uhr

2022-08-18T14:17:17Z

Guenter am 15. Mai 2019 um 13:19 Uhr

2019-05-15T13:19:02Z

Guenter am 15. Mai 2019 um 13:17 Uhr

2019-05-15T13:17:55Z

Guenter am 15. Mai 2019 um 13:17 Uhr

2019-05-15T13:17:02Z

Guenter am 15. Mai 2019 um 12:56 Uhr

2019-05-15T12:56:21Z

Guenter am 15. Mai 2019 um 12:30 Uhr

2019-05-15T12:30:30Z

Änderungen zeigen

Guenter am 7. Juli 2018 um 14:03 Uhr

2018-07-07T14:03:09Z

Guenter am 7. Juli 2018 um 14:01 Uhr

2018-07-07T14:01:07Z

Guenter am 7. Juli 2018 um 13:58 Uhr

2018-07-07T13:58:38Z

Guenter am 7. Juli 2018 um 13:28 Uhr

2018-07-07T13:28:49Z

@@ Zeile 93: / Zeile 93: @@
 Die folgende rechte Grafik zeigt die BSC&ndash;Kanalkapazität abhängig von der Verfälschungswahrscheinlichkeit&nbsp; $\varepsilon$. Links ist zum Vergleich die binäre Entropiefunktion dargestellt, die bereits im Kapitel&nbsp; [[Informationstheorie/Ged%C3%A4chtnislose_Nachrichtenquellen#Bin.C3.A4re_Entropiefunktion|Gedächtnislose Nachrichtenquellen]]&nbsp; des Buches &bdquo;Informationstheorie&rdquo; definiert wurde.<br>
-[[Datei:P ID2379 KC T 1 7 S2 v2.png|center|frame|Kanalkapazität des BSC–Modells|class=fit]]
+[[Datei:P ID2379 KC T 1 7 S2 v2.png|rght|frame|Kanalkapazität des BSC–Modells|class=fit]]
 Man erkennt aus dieser Darstellung:
 *Die Verfälschungswahrscheinlichkeit&nbsp; $\varepsilon$&nbsp; führt zur Kanalkapazität $C(\varepsilon)$. Eine fehlerfreie Decodierung nach bestmöglicher Codierung ist nach dem&nbsp; [[Kanalcodierung/Informationstheoretische_Grenzen_der_Kanalcodierung#Kanalcodierungstheorem_und_Kanalkapazit.C3.A4t |Kanalcodierungstheorem]]&nbsp; nur dann möglich, wenn die Coderate $R$ nicht größer ist als&nbsp; $C(\varepsilon)$.

@@ Zeile 248: / Zeile 248: @@
 * Rote Kreuze markieren sogenannte&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Turbocodes|Turbocodes]]&nbsp; nach&nbsp; [https://en.wikipedia.org/wiki/Consultative_Committee_for_Space_Data_Systems CCSDS]&nbsp; (<i>Consultative Committee for Space Data Systems</i>&nbsp;) mit jeweils&nbsp; $k = 6920$&nbsp; Informationsbits und unterschiedlichen Codelängen&nbsp; $n$. Diese von&nbsp; [http://perso.telecom-bretagne.eu/claudeberrou/ Claude Berrou]&nbsp; um 1990 erfundenen Codes können iterativ decodiert werden. Die (roten) Markierungen liegen jeweils weniger als&nbsp; $1 \, \rm dB$&nbsp; von der Shannon&ndash;Grenze entfernt.<br>
-*Ähnliches Verhalten zeigen die durch weiße Rechtecke gekennzeichneten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]]&nbsp; (<i>Low Density Parity&ndash;check Codes</i>&nbsp;), die seit 2006 bei&nbsp; [https://praxistipps.chip.de/dvb-s-und-dvb-s2-was-ist-der-unterschied_12879 DVB-S und DVB&ndash;S2]&nbsp; (<i>Digital Video Broadcast over Satellite</i>&nbsp;) eingesetzt werden. Diese eignen sich aufgrund der spärlichen Belegung der Prüfmatrix&nbsp; $\boldsymbol {\rm H}$&nbsp; (mit Einsen) sehr gut für die iterative Decodierung mittels ''Faktor&ndash;Graphen'' &nbsp; und &nbsp;  ''Exit Charts''. Siehe  [Hag02]<ref name='Hag02'>Hagenauer, J.: ''The Turbo Principle in Mobile Communications''. In: Int. Symp. on Information Theory and Its Applications, Oct.2010,  [http://wwwmayr.in.tum.de/konferenzen/Jass05/courses/4/papers/prof_hagenauer.pdf PDF&ndash;Dokument.]</ref><br>
+*Ähnliches Verhalten zeigen die durch weiße Rechtecke gekennzeichneten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]]&nbsp; (<i>Low Density Parity&ndash;check Codes</i>&nbsp;), die seit 2006 bei&nbsp; [https://praxistipps.chip.de/dvb-s-und-dvb-s2-was-ist-der-unterschied_12879 DVB&ndash;S(2)]&nbsp; (<i>Digital Video Broadcast over Satellite</i>&nbsp;) eingesetzt werden. Diese eignen sich aufgrund der spärlichen Belegung der Prüfmatrix&nbsp; $\boldsymbol {\rm H}$&nbsp; (mit Einsen) sehr gut für die iterative Decodierung mittels ''Faktor&ndash;Graphen'' &nbsp; und &nbsp;  ''Exit Charts''. Siehe  [Hag02]<ref name='Hag02'>Hagenauer, J.: ''The Turbo Principle in Mobile Communications''. In: Int. Symp. on Information Theory and Its Applications, Oct.2010,  [http://wwwmayr.in.tum.de/konferenzen/Jass05/courses/4/papers/prof_hagenauer.pdf PDF&ndash;Dokument.]</ref><br>
 *Die schwarzen Punkte markieren die von CCSDS spezifizierten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]], die alle von einer konstanten Anzahl von Informationsbits ausgehen&nbsp; $(k = 16384)$. Dagegen ist bei allen weißen Rechtecken die Codelänge&nbsp; $n = 64800$&nbsp; konstant, während sich die Anzahl&nbsp; $k$&nbsp; der Informationsbits entsprechend der Rate&nbsp; $R = k/n$&nbsp; ändert.<br>

@@ Zeile 248: / Zeile 248: @@
 * Rote Kreuze markieren sogenannte&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Turbocodes|Turbocodes]]&nbsp; nach&nbsp; [https://en.wikipedia.org/wiki/Consultative_Committee_for_Space_Data_Systems CCSDS]&nbsp; (<i>Consultative Committee for Space Data Systems</i>&nbsp;) mit jeweils&nbsp; $k = 6920$&nbsp; Informationsbits und unterschiedlichen Codelängen&nbsp; $n$. Diese von&nbsp; [http://perso.telecom-bretagne.eu/claudeberrou/ Claude Berrou]&nbsp; um 1990 erfundenen Codes können iterativ decodiert werden. Die (roten) Markierungen liegen jeweils weniger als&nbsp; $1 \, \rm dB$&nbsp; von der Shannon&ndash;Grenze entfernt.<br>
-*Ähnliches Verhalten zeigen die durch weiße Rechtecke gekennzeichneten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]]&nbsp; (<i>Low Density Parity&ndash;check Codes</i>&nbsp;), die seit 2006 bei&nbsp; [https://praxistipps.chip.de/dvb-s-und-dvb-s2-was-ist-der-unterschied_12879 DVB-SDVB&ndash;S2]&nbsp; (<i>Digital Video Broadcast over Satellite</i>&nbsp;) eingesetzt werden. Diese eignen sich aufgrund der spärlichen Belegung der Prüfmatrix&nbsp; $\boldsymbol {\rm H}$&nbsp; (mit Einsen) sehr gut für die iterative Decodierung mittels ''Faktor&ndash;Graphen'' &nbsp; und &nbsp;  ''Exit Charts''. Siehe  [Hag02]<ref name='Hag02'>Hagenauer, J.: ''The Turbo Principle in Mobile Communications''. In: Int. Symp. on Information Theory and Its Applications, Oct.2010,  [http://wwwmayr.in.tum.de/konferenzen/Jass05/courses/4/papers/prof_hagenauer.pdf PDF&ndash;Dokument.]</ref><br>
+*Ähnliches Verhalten zeigen die durch weiße Rechtecke gekennzeichneten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]]&nbsp; (<i>Low Density Parity&ndash;check Codes</i>&nbsp;), die seit 2006 bei&nbsp; [https://praxistipps.chip.de/dvb-s-und-dvb-s2-was-ist-der-unterschied_12879 DVB-S und DVB&ndash;S2]&nbsp; (<i>Digital Video Broadcast over Satellite</i>&nbsp;) eingesetzt werden. Diese eignen sich aufgrund der spärlichen Belegung der Prüfmatrix&nbsp; $\boldsymbol {\rm H}$&nbsp; (mit Einsen) sehr gut für die iterative Decodierung mittels ''Faktor&ndash;Graphen'' &nbsp; und &nbsp;  ''Exit Charts''. Siehe  [Hag02]<ref name='Hag02'>Hagenauer, J.: ''The Turbo Principle in Mobile Communications''. In: Int. Symp. on Information Theory and Its Applications, Oct.2010,  [http://wwwmayr.in.tum.de/konferenzen/Jass05/courses/4/papers/prof_hagenauer.pdf PDF&ndash;Dokument.]</ref><br>
 *Die schwarzen Punkte markieren die von CCSDS spezifizierten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]], die alle von einer konstanten Anzahl von Informationsbits ausgehen&nbsp; $(k = 16384)$. Dagegen ist bei allen weißen Rechtecken die Codelänge&nbsp; $n = 64800$&nbsp; konstant, während sich die Anzahl&nbsp; $k$&nbsp; der Informationsbits entsprechend der Rate&nbsp; $R = k/n$&nbsp; ändert.<br>

@@ Zeile 248: / Zeile 248: @@
 * Rote Kreuze markieren sogenannte&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Turbocodes|Turbocodes]]&nbsp; nach&nbsp; [https://en.wikipedia.org/wiki/Consultative_Committee_for_Space_Data_Systems CCSDS]&nbsp; (<i>Consultative Committee for Space Data Systems</i>&nbsp;) mit jeweils&nbsp; $k = 6920$&nbsp; Informationsbits und unterschiedlichen Codelängen&nbsp; $n$. Diese von&nbsp; [http://perso.telecom-bretagne.eu/claudeberrou/ Claude Berrou]&nbsp; um 1990 erfundenen Codes können iterativ decodiert werden. Die (roten) Markierungen liegen jeweils weniger als&nbsp; $1 \, \rm dB$&nbsp; von der Shannon&ndash;Grenze entfernt.<br>
-*Ähnliches Verhalten zeigen die durch weiße Rechtecke gekennzeichneten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]]&nbsp; (<i>Low Density Parity&ndash;check Codes</i>&nbsp;), die seit 2006 bei&nbsp; [https://de.wikipedia.org/wiki/DVB-SDVB&ndash;S2 DVB-SDVB&ndash;S2]&nbsp; (<i>Digital Video Broadcast over Satellite</i>&nbsp;) eingesetzt werden. Diese eignen sich aufgrund der spärlichen Belegung der Prüfmatrix&nbsp; $\boldsymbol {\rm H}$&nbsp; (mit Einsen) sehr gut für die iterative Decodierung mittels ''Faktor&ndash;Graphen'' &nbsp; und &nbsp;  ''Exit Charts''. Siehe  [Hag02]<ref name='Hag02'>Hagenauer, J.: ''The Turbo Principle in Mobile Communications''. In: Int. Symp. on Information Theory and Its Applications, Oct.2010,  [http://wwwmayr.in.tum.de/konferenzen/Jass05/courses/4/papers/prof_hagenauer.pdf PDF&ndash;Dokument.]</ref><br>
+*Ähnliches Verhalten zeigen die durch weiße Rechtecke gekennzeichneten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]]&nbsp; (<i>Low Density Parity&ndash;check Codes</i>&nbsp;), die seit 2006 bei&nbsp; [https://praxistipps.chip.de/dvb-s-und-dvb-s2-was-ist-der-unterschied_12879 DVB-SDVB&ndash;S2]&nbsp; (<i>Digital Video Broadcast over Satellite</i>&nbsp;) eingesetzt werden. Diese eignen sich aufgrund der spärlichen Belegung der Prüfmatrix&nbsp; $\boldsymbol {\rm H}$&nbsp; (mit Einsen) sehr gut für die iterative Decodierung mittels ''Faktor&ndash;Graphen'' &nbsp; und &nbsp;  ''Exit Charts''. Siehe  [Hag02]<ref name='Hag02'>Hagenauer, J.: ''The Turbo Principle in Mobile Communications''. In: Int. Symp. on Information Theory and Its Applications, Oct.2010,  [http://wwwmayr.in.tum.de/konferenzen/Jass05/courses/4/papers/prof_hagenauer.pdf PDF&ndash;Dokument.]</ref><br>
 *Die schwarzen Punkte markieren die von CCSDS spezifizierten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]], die alle von einer konstanten Anzahl von Informationsbits ausgehen&nbsp; $(k = 16384)$. Dagegen ist bei allen weißen Rechtecken die Codelänge&nbsp; $n = 64800$&nbsp; konstant, während sich die Anzahl&nbsp; $k$&nbsp; der Informationsbits entsprechend der Rate&nbsp; $R = k/n$&nbsp; ändert.<br>

@@ Zeile 213: / Zeile 213: @@
 == Gebräuchliche Kanalcodes im Vergleich zur Kanalkapazität ==
 <br>
-Nun soll gezeigt werden, in wie weit sich etablierte Kanalcodes der BPSK&ndash;Kanalkapazität (grüne Kurve) annähern. In der folgenden Grafik ist als Ordinate die Rate $R=k/n$ dieser Codes bzw. die Kapazität $C$ (mit der zusätzlichen Pseudo&ndash;Einheit &bdquo;bit/Kanalzugriff&rdquo;) aufgetragen. Weiter ist vorausgesetzt:
+Nun soll gezeigt werden, in wie weit sich etablierte Kanalcodes der BPSK&ndash;Kanalkapazität (grüne Kurve) annähern. In der folgenden Grafik ist als Ordinate die Rate&nbsp; $R=k/n$&nbsp; dieser Codes bzw. die Kapazität&nbsp; $C$&nbsp; (mit der zusätzlichen Pseudo&ndash;Einheit &bdquo;bit/Kanalzugriff&rdquo;) aufgetragen. Weiter ist vorausgesetzt:
-*der AWGN&ndash;Kanal, gekennzeichnet durch $10 \cdot \lg \, E_{\rm B}/N_0$ in dB, und<br>
+*der AWGN&ndash;Kanal, gekennzeichnet durch&nbsp; $10 \cdot \lg \, E_{\rm B}/N_0$&nbsp; in dB, und<br>
-*für die durch Kreuze markierten Codes eine Bitfehlerrate (BER) von $10^{-5}$.<br>
+*für die durch Kreuze markierten Codes eine Bitfehlerrate (BER) von&nbsp; $10^{-5}$.<br>
-[[Datei:P ID2968 KC T 1 7 S5a v3.png|center|frame|Raten und erforderliches $E_{\rm B}/N_0$ verschiedener Kanalcodes|class=fit]]
+[[Datei:P ID2968 KC T 1 7 S5a v3.png|right|frame|Raten und erforderliches&nbsp; $E_{\rm B}/N_0$&nbsp; verschiedener Kanalcodes|class=fit]]
-{{BlaueBox|TEXT=
 $\text{Bitte beachten Sie:}$&nbsp;
-*Die Kanalkapazitätskurven gelten stets für $n \to \infty$  und $\rm BER = 0$ gelten.
+*Die Kanalkapazitätskurven gelten stets für&nbsp; $n \to \infty$&nbsp;  und&nbsp; $\rm BER \to 0$&nbsp; gelten.
-*Würde man diese strenge Forderung &bdquo;fehlerfrei&rdquo; auch an die betrachteten Kanalcodes endlicher Codelänge $n$ anlegen, so wäre hierfür stets $10 \cdot \lg \, E_{\rm B}/N_0 \to \infty$  erforderlich.
+*Würde man diese strenge Forderung &bdquo;fehlerfrei&rdquo; auch an die betrachteten Kanalcodes endlicher Codelänge&nbsp; $n$&nbsp; anlegen, so wäre hierfür stets&nbsp; $10 \cdot \lg \, E_{\rm B}/N_0 \to \infty$&nbsp;  erforderlich.
-*Dies ist aber ein akademisches Problem, das für die Praxis wenig Bedeutung hat. Für $\rm BER = 10^{-10}$ ergäbe sich eine qualitativ und auch quantitativ ähnliche Grafik.}}<br>
+*Dies ist aber ein akademisches Problem, das für die Praxis wenig Bedeutung hat. Für&nbsp; $\rm BER = 10^{-10}$&nbsp; ergäbe sich eine qualitativ und auch quantitativ ähnliche Grafik.<br>
-Es folgen einige Erläuterungen zu den Daten, die der Vorlesung [Liv10]<ref name='Liv10'>Liva, G.: Channel Coding. Vorlesungsmanuskript, Lehrstuhl für Nachrichtentechnik, TU München und DLR Oberpfaffenhofen, 2010.</ref> entnommen wurden:
+''Anmerkung'': &nbsp; Bei den Faltungscodes hat insbesondere der dritte Kennungsparameter eine andere Bedeutung als bei den Blockcodes. $\text{CC (2, 1, 32)}$&nbsp; weist beispielsweise auf das Memory&nbsp; $m = 32$&nbsp; hin.<br>
-*Die Punkte $\rm A$, $\rm B$ und $\rm C$ markieren [[Kanalcodierung/Beispiele_binärer_Blockcodes#Hamming.E2.80.93Codes|Hamming&ndash;Codes]] unterschiedlicher Rate. Sie alle benötigen für $\rm BER = 10^{-5}$ mindestens $10 \cdot \lg \, E_{\rm B}/N_0  = 8  \, \rm dB$.
+[[Datei:P ID2377 KC T 1 7 S5b v4.png|right|frame|Raten und erforderliches&nbsp; $E_{\rm B}/N_0$&nbsp;  für iterative Codierverfahren |class=fit]]
-[[Datei:P ID2377 KC T 1 7 S5b v4.png|center|frame|Raten und erforderliches $E_{\rm B}/N_0$  für iterative Codierverfahren |class=fit]]
+Mit iterativer Decodierung lassen sich deutlich bessere Ergebnisse erzielen, wie die zweite Grafik zeigt.
-Die bisher mit &bdquo;Gauß&ndash;Kapazität&rdquo; beschriftete durchgezogene blaue Kurve wird hier &bdquo;Gauß (reell)&rdquo; genannt. Hier noch einige weitere Erläuterungen zu dieser Grafik:
+*Das heißt: &nbsp;Die einzelnen Markierungspunkte liegen sehr viel näher an der Kapazitätskurve.<br>
-* Rote Kreuze markieren sogenannte [[Kanalcodierung/Grundlegendes_zu_den_Turbocodes|Turbocodes]] nach [https://en.wikipedia.org/wiki/Consultative_Committee_for_Space_Data_Systems CCSDS] (<i>Consultative Committee for Space Data Systems</i>&nbsp; ) mit jeweils $k = 6920$ Informationsbits und unterschiedlichen Codelängen $n$. Diese von [http://perso.telecom-bretagne.eu/claudeberrou/ Claude Berrou] um 1990 erfundenen Codes können iterativ decodiert werden. Die (roten) Markierungen liegen jeweils weniger als $1 \, \rm dB$ von der Shannon&ndash;Grenze entfernt.<br>
+*Die bisher mit &bdquo;Gauß&ndash;Kapazität&rdquo; beschriftete durchgezogene blaue Kurve wird hier &bdquo;Gauß (reell)&rdquo; genannt.
-*Ähnliches Verhalten zeigen die durch weiße Rechtecke gekennzeichneten [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]] (<i>Low Density Parity&ndash;check Codes</i>&nbsp; ), die seit 2006 bei [https://de.wikipedia.org/wiki/DVB-SDVB&ndash;S2 DVB-SDVB&ndash;S2] (<i>Digital Video Broadcast over Satellite</i>&nbsp; ) eingesetzt werden. Diese eignen sich aufgrund der spärlichen Belegung der Prüfmatrix $\boldsymbol {\rm H}$ (mit Einsen) sehr gut für die iterative Decodierung mittels ''Faktor&ndash;Graphen'' &nbsp; und &nbsp;  ''Exit Charts''. Siehe  [Hag02]<ref name='Hag02'>Hagenauer, J.: ''The Turbo Principle in Mobile Communications''. In: Int. Symp. on Information Theory and Its Applications, Oct.2010,  [http://wwwmayr.in.tum.de/konferenzen/Jass05/courses/4/papers/prof_hagenauer.pdf PDF&ndash;Dokument.]</ref><br>
+*Ähnliches Verhalten zeigen die durch weiße Rechtecke gekennzeichneten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]]&nbsp; (<i>Low Density Parity&ndash;check Codes</i>&nbsp;), die seit 2006 bei&nbsp; [https://de.wikipedia.org/wiki/DVB-SDVB&ndash;S2 DVB-SDVB&ndash;S2]&nbsp; (<i>Digital Video Broadcast over Satellite</i>&nbsp;) eingesetzt werden. Diese eignen sich aufgrund der spärlichen Belegung der Prüfmatrix&nbsp; $\boldsymbol {\rm H}$&nbsp; (mit Einsen) sehr gut für die iterative Decodierung mittels ''Faktor&ndash;Graphen'' &nbsp; und &nbsp;  ''Exit Charts''. Siehe  [Hag02]<ref name='Hag02'>Hagenauer, J.: ''The Turbo Principle in Mobile Communications''. In: Int. Symp. on Information Theory and Its Applications, Oct.2010,  [http://wwwmayr.in.tum.de/konferenzen/Jass05/courses/4/papers/prof_hagenauer.pdf PDF&ndash;Dokument.]</ref><br>
-*Die schwarzen Punkte markieren die von CCSDS spezifizierten [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]], die alle von einer konstanten Anzahl von Informationsbits ausgehen $(k = 16384)$. Dagegen ist bei allen weißen Rechtecken die Codelänge $n = 64800$ konstant, während sich die Anzahl $k$ der Informationsbits entsprechend der Rate $R = k/n$ ändert.<br>
+*Die schwarzen Punkte markieren die von CCSDS spezifizierten&nbsp; [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]], die alle von einer konstanten Anzahl von Informationsbits ausgehen&nbsp; $(k = 16384)$. Dagegen ist bei allen weißen Rechtecken die Codelänge&nbsp; $n = 64800$&nbsp; konstant, während sich die Anzahl&nbsp; $k$&nbsp; der Informationsbits entsprechend der Rate&nbsp; $R = k/n$&nbsp; ändert.<br>
-*Um das Jahr 2000 hatten viele Forscher den Ehrgeiz, sich der Shannon&ndash;Grenze bis auf Bruchteile von einem dB anzunähern. Das gelbe Kreuz markiert ein solches Ergebnis aus [CFRU01]<ref name='CFRU01'>Chung S.Y; Forney Jr., G.D.; Richardson, T.J.; Urbanke, R.: ''On the Design of Low-Density Parity- Check Codes within 0.0045 dB of the Shannon Limit''. – In: IEEE Communications Letters, vol. 5, no. 2 (2001), pp. 58–60.''</ref>. Verwendet wurde ein irregulärer Rate&ndash;1/2&ndash;LDPC&ndash;Code der Codelänge $n = 2 \cdot10^6$.<br><br>
+*Um das Jahr 2000 hatten viele Forscher den Ehrgeiz, sich der Shannon&ndash;Grenze bis auf Bruchteile von einem &nbsp;$\rm dB$&nbsp; anzunähern. Das gelbe Kreuz markiert ein solches Ergebnis aus [CFRU01]<ref name='CFRU01'>Chung S.Y; Forney Jr., G.D.; Richardson, T.J.; Urbanke, R.: ''On the Design of Low-Density Parity- Check Codes within 0.0045 dB of the Shannon Limit''. – In: IEEE Communications Letters, vol. 5, no. 2 (2001), pp. 58–60.''</ref>. Verwendet wurde ein irregulärer Rate&ndash;1/2&ndash;LDPC&ndash;Code der Codelänge&nbsp; $n = 2 \cdot10^6$.<br><br>
 {{BlaueBox|TEXT=
 $\text{Fazit:}$&nbsp; Festzuhalten ist, dass Shannon bereits 1948 erkannt und nachgewiesen hat, dass kein eindimensionales Modulationsverfahren links von der durchgehend eingezeichneten AWGN&ndash;Grenzkurve &bdquo;Gauß (reell)&rdquo; liegen kann.
 *Für zweidimensionale Verfahren wie QAM und mehrstufige PSK gilt dagegen die Grenzkurve &bdquo;Gauß (komplex)&rdquo;, die hier gestrichelt gezeichnet ist und stets links von der durchgezogenen Kurve liegt.
-*Näheres hierzu finden Sie im Abschnitt im [[Informationstheorie/AWGN%E2%80%93Kanalkapazit%C3%A4t_bei_wertdiskretem_Eingang#Maximale_Coderate_f.C3.BCr_QAM.E2.80.93Strukturen|Maximale Coderate für QAM&ndash;Strukturen]] des Buches &bdquo;Informationstheorie&rdquo;.<br>
+*Näheres hierzu finden Sie im Abschnitt&nbsp; [[Informationstheorie/AWGN%E2%80%93Kanalkapazit%C3%A4t_bei_wertdiskretem_Eingang#Maximale_Coderate_f.C3.BCr_QAM.E2.80.93Strukturen|Maximale Coderate für QAM&ndash;Strukturen]]&nbsp; des Buches &bdquo;Informationstheorie&rdquo;.<br>
 *Auch diese Grenzkurve wurde mit QAM&ndash;Verfahren und sehr langen Kanalcodes inzwischen nahezu erreicht, ohne dass sie jemals überschritten werden wird.}}<br>

@@ Zeile 156: / Zeile 156: @@
 *Außerhalb der blauen Fläche ist eine fehlerfreie Codierung nicht möglich.
 *Die blaue Grenzkurve gibt die Kanalkapazität $C$ des AWGN&ndash;Kanals an.<br>
 [[Datei:P ID2373 KC T 1 7 S3b v3.png|center|frame|Kanalkapazität des AWGN–Kanals|class=fit]]

@@ Zeile 109: / Zeile 109: @@
 *Die im Hinblick auf maximale Transinformation optimierte Eingangsgröße $x$ wird mit Sicherheit wertkontinuierlich sein, das heißt, beim AWGN&ndash;Kanal gilt außer $M_y \to\infty$ auch $M_x \to\infty$.
-*Während bei wertdiskretem Eingang über alle ${\rm Pr}(x_i)$ zu optimieren ist, erfolgt nun die Optimierung anhand der [[Stochastische_Signaltheorie/Gau%C3%9Fverteilte_Zufallsgr%C3%B6%C3%9Fe#Wahrscheinlichkeitsdichte-_und_Verteilungsfunktion| WDF]] $f_x(x)$  des Eingangssignals unter der Nebenbedingung [[Digitalsignal%C3%BCbertragung/Optimierung_der_Basisband%C3%BCbertragungssysteme#Leistungs.E2.80.93_und_Spitzenwertbegrenzung_.281.29| Leistungsbegrenzung]]:
+*Während bei wertdiskretem Eingang über alle ${\rm Pr}(x_i)$ zu optimieren ist, erfolgt nun die Optimierung anhand der [[Stochastische_Signaltheorie/Gau%C3%9Fverteilte_Zufallsgr%C3%B6%C3%9Fe#Wahrscheinlichkeitsdichte-_und_Verteilungsfunktion| WDF]] $f_x(x)$  des Eingangssignals unter der Nebenbedingung [[Digitalsignal%C3%BCbertragung/Optimierung_der_Basisband%C3%BCbertragungssysteme#Leistungs.E2.80.93_und_Spitzenwertbegrenzung| Leistungsbegrenzung]]:
 ::<math>C = \max_{f_x(x)} \hspace{0.1cm} I(x; y)\hspace{0.05cm},\hspace{0.3cm}{\rm wobei \hspace{0.15cm} gelten  \hspace{0.15cm} muss} \text{:}\hspace{0.15cm} {\rm E} \left [ x^2 \right ] \le P_x   \hspace{0.05cm}.</math>

@@ Zeile 232: / Zeile 232: @@
 *Die Kanalcodierung der Voyager&ndash;Mission Ende der 1970er Jahre ist mit $\rm I$ markiert. Es handelt sich um die Verkettung eines $\text{(2, 1, 7)}$&ndash;Faltungscodes mit einem Reed&ndash;Solomon&ndash;Code, wie im vierten Hauptkapitel beschrieben.<br><br>
-''Anmerkung'': Bei den Faltungscodes hat insbesondere der dritte Kennungsparameter eine andere Bedeutung als bei den Blockcodes. (2, 1, 32) weist beispielsweise auf das Memory $m = 32$ hin.<br>
+''Anmerkung'': &nbsp; Bei den Faltungscodes hat insbesondere der dritte Kennungsparameter eine andere Bedeutung als bei den Blockcodes. $\text{(2, 1, 32)}$ weist beispielsweise auf das Memory $m = 32$ hin.<br>
-Mit iterativer Decodierung lassen sich deutlich bessere Ergebnisse erzielen, wie die folgende Grafik zeigt. Das heißt: Die einzelnen Markierungspunkte liegen sehr viel näher an der Kapazitätskurve.<br>
+Mit iterativer Decodierung lassen sich deutlich bessere Ergebnisse erzielen, wie die nächste Grafik zeigt. Das heißt: Die einzelnen Markierungspunkte liegen sehr viel näher an der Kapazitätskurve.<br>
 [[Datei:P ID2377 KC T 1 7 S5b v4.png|center|frame|Raten und erforderliches $E_{\rm B}/N_0$  für iterative Codierverfahren |class=fit]]
 Die bisher mit &bdquo;Gauß&ndash;Kapazität&rdquo; beschriftete durchgezogene blaue Kurve wird hier &bdquo;Gauß (reell)&rdquo; genannt. Hier noch einige weitere Erläuterungen zu dieser Grafik:
-* Rote Kreuze markieren sogenannte [[Kanalcodierung/Grundlegendes_zu_den_Turbocodes|Turbocodes]] nach [https://en.wikipedia.org/wiki/Consultative_Committee_for_Space_Data_Systems CCSDS] (<i>Consultative Committee for Space Data Systems</i>) mit jeweils $k = 6920$ Informationsbits und unterschiedlichen Codelängen $n$. Diese von [http://perso.telecom-bretagne.eu/claudeberrou/ Claude Berrou] um 1990 erfundenen Codes können iterativ decodiert werden. Die (roten) Markierungen liegen jeweils weniger als $1 \, \rm dB$ von der Shannon&ndash;Grenze entfernt.<br>
+* Rote Kreuze markieren sogenannte [[Kanalcodierung/Grundlegendes_zu_den_Turbocodes|Turbocodes]] nach [https://en.wikipedia.org/wiki/Consultative_Committee_for_Space_Data_Systems CCSDS] (<i>Consultative Committee for Space Data Systems</i>&nbsp; ) mit jeweils $k = 6920$ Informationsbits und unterschiedlichen Codelängen $n$. Diese von [http://perso.telecom-bretagne.eu/claudeberrou/ Claude Berrou] um 1990 erfundenen Codes können iterativ decodiert werden. Die (roten) Markierungen liegen jeweils weniger als $1 \, \rm dB$ von der Shannon&ndash;Grenze entfernt.<br>
-*Ähnliches Verhalten zeigen die durch weiße Rechtecke gekennzeichneten [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]] (<i>Low Density Parity&ndash;check Codes</i>), die seit 2006 bei [https://de.wikipedia.org/wiki/DVB-SDVB&ndash;S2] (<i>Digital Video Broadcast over Satellite</i>) eingesetzt werden. Diese eignen sich aufgrund der spärlichen Belegung der Prüfmatrix $\boldsymbol {\rm H}$ (mit Einsen) sehr gut für die iterative Decodierung mittels ''Faktor&ndash;Graphen'' und ''Exit Charts''. Siehe  [Hag02]<ref name='Hag02'>Hagenauer, J.: ''The Turbo Principle in Mobile Communications''. In: Int. Symp. on Information Theory and Its Applications, Oct.2010,  [http://wwwmayr.in.tum.de/konferenzen/Jass05/courses/4/papers/prof_hagenauer.pdf PDF&ndash;Dokument.]</ref><br>
+*Ähnliches Verhalten zeigen die durch weiße Rechtecke gekennzeichneten [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]] (<i>Low Density Parity&ndash;check Codes</i>&nbsp; ), die seit 2006 bei [https://de.wikipedia.org/wiki/DVB-SDVB&ndash;S2 DVB-SDVB&ndash;S2] (<i>Digital Video Broadcast over Satellite</i>&nbsp; ) eingesetzt werden. Diese eignen sich aufgrund der spärlichen Belegung der Prüfmatrix $\boldsymbol {\rm H}$ (mit Einsen) sehr gut für die iterative Decodierung mittels ''Faktor&ndash;Graphen'' &nbsp; und &nbsp;  ''Exit Charts''. Siehe  [Hag02]<ref name='Hag02'>Hagenauer, J.: ''The Turbo Principle in Mobile Communications''. In: Int. Symp. on Information Theory and Its Applications, Oct.2010,  [http://wwwmayr.in.tum.de/konferenzen/Jass05/courses/4/papers/prof_hagenauer.pdf PDF&ndash;Dokument.]</ref><br>
 *Die schwarzen Punkte markieren die von CCSDS spezifizierten [[Kanalcodierung/Grundlegendes_zu_den_Low–density_Parity–check_Codes|LDPC&ndash;Codes]], die alle von einer konstanten Anzahl von Informationsbits ausgehen $(k = 16384)$. Dagegen ist bei allen weißen Rechtecken die Codelänge $n = 64800$ konstant, während sich die Anzahl $k$ der Informationsbits entsprechend der Rate $R = k/n$ ändert.<br>
-*Um das Jahr 2000 hatten viele Forscher den Ehrgeiz, sich der Shannon&ndash;Grenze bis auf Bruchteile von einem dB anzunähern. Das gelbe Kreuz markiert ein solches Ergebnis aus [CFRU01]<ref name='CFRU01'>Chung S.Y; Forney Jr., G.D.; Richardson, T.J.; Urbanke, R.: ''On the Design of Low-Density Parity- Check Codes within 0.0045 dB of the Shannon Limit''. – In: IEEE Communications Letters, vol. 5, no. 2 (2001), pp. 58–60.''</ref>[CFRU01]. Verwendet wurde ein irregulärer Rate&ndash;1/2&ndash;LDPC&ndash;Code der Codelänge $n = 2 \cdot10^g$.<br><br>
+*Um das Jahr 2000 hatten viele Forscher den Ehrgeiz, sich der Shannon&ndash;Grenze bis auf Bruchteile von einem dB anzunähern. Das gelbe Kreuz markiert ein solches Ergebnis aus [CFRU01]<ref name='CFRU01'>Chung S.Y; Forney Jr., G.D.; Richardson, T.J.; Urbanke, R.: ''On the Design of Low-Density Parity- Check Codes within 0.0045 dB of the Shannon Limit''. – In: IEEE Communications Letters, vol. 5, no. 2 (2001), pp. 58–60.''</ref>. Verwendet wurde ein irregulärer Rate&ndash;1/2&ndash;LDPC&ndash;Code der Codelänge $n = 2 \cdot10^6$.<br><br>
 {{BlaueBox|TEXT=

@@ Zeile 175: / Zeile 175: @@
 *zum einen die Coderate auf den Bereich $R &#8804; 1$ begrenzt,<br>
 *zum zweiten auch für $R &#8804; 1$ nicht die gesamte blaue Region verfügbar  (siehe vorherige Seite) .
 Die nun gültige Region ergibt sich aus der [[Kanalcodierung/Informationstheoretische_Grenzen_der_Kanalcodierung#Kanalcodierungstheorem_und_Kanalkapazit.C3.A4t|allgemeinen Gleichung]] der Transinformation durch
 *die Parameter $M_x = 2$ und $M_y \to \infty$,<br>
-*bipolare Signalisierung &nbsp; &#8658; &nbsp; $x=0$ &#8594; $\tilde{x} = +1$ und $x=1$ &#8594; $\tilde{x} = -1$,<br>
+*bipolare Signalisierung &nbsp; &#8658; &nbsp; $x=0$ &nbsp; &#8594; &nbsp; $\tilde{x} = +1$ und $x=1$ &nbsp; &#8594; &nbsp; $\tilde{x} = -1$,<br>
 *den Übergang von bedingten Wahrscheinlichkeiten ${\rm Pr}(\tilde{x}_i)$ zu bedingten Wahrscheinlichkeitsdichtefunktionen,<br>
 *Ersetzen der Summe durch eine Integration.<br><br>
@@ Zeile 186: / Zeile 187: @@
 ::<math>{\rm Pr}(\tilde{x} = +1) = {\rm Pr}(\tilde{x} = -1) = 1/2  \hspace{0.05cm}. </math>
-Damit erhält man  für $\tilde{x} = \pm 1$ für das Maximum der Transinformation hinsichtlich ${\rm Pr}(\tilde{x}_i)$, also für die Kanalkapazität:
+Damit erhält man  für das Maximum der Transinformation, also für die Kanalkapazität:
 ::<math>C \hspace{-0.15cm} = {1}/{2} \cdot \int_{-\infty }^{+ \infty}
@@ Zeile 194: / Zeile 195: @@
 \hspace{0.05cm}.</math>
-Das Integral lässt sich nicht in mathematisch&ndash;geschlossener Form lösen, sondern kann nur numerisch ausgewertet werden. Die grüne Kurve zeigt das Ergebnis. Die blaue Kurve gibt zum Vergleich die auf der letzten Seite hergeleitete Kanalkapazität für gaußverteilte Eingangssignale an.
+Das Integral lässt sich nicht in mathematisch&ndash;geschlossener Form lösen, sondern kann nur numerisch ausgewertet werden.
 [[Datei:P ID2375 KC T 1 7 S4b v3.png|center|frame|AWGN–Kanalkapazität für binäre Eingangssignale|class=fit]]
 Man erkennt:
-*Für $10 \cdot \lg \, E_{\rm B}/N_0  < 0  \, \rm dB$ unterscheiden sich die beiden Kapazitätskurven nur geringfügig. So muss man bei binärem bipolaren Eingang gegenüber dem Optimum (Gaußscher Eingang) die Kenngröße  $10 \cdot \lg \, E_{\rm B}/N_0$ nur etwa um $0.1 \, \rm dB$ erhöhen, um ebenfalls die Coderate $R = 0.5$ zu ermöglichen.<br>
+*Für $10 \cdot \lg \, E_{\rm B}/N_0  < 0  \, \rm dB$ unterscheiden sich die beiden Kapazitätskurven nur geringfügig.
 *Ab etwa $10 \cdot \lg \, E_{\rm B}/N_0  =6  \, \rm dB$ ist die Kanalkapazität $C = 1 \, \rm bit/Kanalzugriff$ für binären Eingang (fast) erreicht. Dazwischen verläuft die grüne Grenzkurve annähernd  exponentiell ansteigend.
@@ Zeile 206: / Zeile 211: @@
 == Gebräuchliche Kanalcodes im Vergleich zur Kanalkapazität ==
 <br>
-Nun soll gezeigt werden, in wie weit sich etablierte Kanalcodes der BPSK&ndash;Kanalkapazität (grüne Kurve) annähern. In der Grafik ist als Ordinate die Rate $R=k/n$ dieser Codes bzw. die Kapazität $C$ (mit der zusätzlichen Pseudo&ndash;Einheit &bdquo;bit/Kanalzugriff&rdquo;) aufgetragen. Weiter ist vorausgesetzt:
+Nun soll gezeigt werden, in wie weit sich etablierte Kanalcodes der BPSK&ndash;Kanalkapazität (grüne Kurve) annähern. In der folgenden Grafik ist als Ordinate die Rate $R=k/n$ dieser Codes bzw. die Kapazität $C$ (mit der zusätzlichen Pseudo&ndash;Einheit &bdquo;bit/Kanalzugriff&rdquo;) aufgetragen. Weiter ist vorausgesetzt:
 *der AWGN&ndash;Kanal, gekennzeichnet durch $10 \cdot \lg \, E_{\rm B}/N_0$ in dB, und<br>
-*für die durch Kreuze markierten Codes eine Bitfehlerrate (BER) von $10^{-5}$.<br><br>
+*für die durch Kreuze markierten Codes eine Bitfehlerrate (BER) von $10^{-5}$.<br>
 {{BlaueBox|TEXT=
 $\text{Bitte beachten Sie:}$&nbsp;
 *Die Kanalkapazitätskurven gelten stets für $n \to \infty$  und $\rm BER = 0$ gelten.
-*Würde man diese strenge Forderung &bdquo;feherfrei&rdquo; auch an die betrachteten Kanalcodes endlicher Codelänge $n$ anlegen, so wäre hierfür stets $10 \cdot \lg \, E_{\rm B}/N_0 \to \infty$  erforderlich.
+*Würde man diese strenge Forderung &bdquo;fehlerfrei&rdquo; auch an die betrachteten Kanalcodes endlicher Codelänge $n$ anlegen, so wäre hierfür stets $10 \cdot \lg \, E_{\rm B}/N_0 \to \infty$  erforderlich.
-*Dies ist aber ein akademisches Problem, das für die Praxis wenig Bedeutung hat. Für $\rm BER = 10^{-10}$ ergäbe sich eine qualitativ ähnliche Grafik.}}<br>
+*Dies ist aber ein akademisches Problem, das für die Praxis wenig Bedeutung hat. Für $\rm BER = 10^{-10}$ ergäbe sich eine qualitativ und auch quantitativ ähnliche Grafik.}}<br>
 Es folgen einige Erläuterungen zu den Daten, die der Vorlesung [Liv10]<ref name='Liv10'>Liva, G.: Channel Coding. Vorlesungsmanuskript, Lehrstuhl für Nachrichtentechnik, TU München und DLR Oberpfaffenhofen, 2010.</ref> entnommen wurden:
+*Die Punkte $\rm A$, $\rm B$ und $\rm C$ markieren [[Kanalcodierung/Beispiele_binärer_Blockcodes#Hamming.E2.80.93Codes|Hamming&ndash;Codes]] unterschiedlicher Rate. Sie alle benötigen für $\rm BER = 10^{-5}$ mindestens $10 \cdot \lg \, E_{\rm B}/N_0  = 8  \, \rm dB$.
-[[Datei:P ID2968 KC T 1 7 S5a v3.png|center|frame|Raten und erforderliches $E_{\rm B}/N_0$ verschiedener Kanalcodes|class=fit]]
+*Die Markierung $\rm D$ kennzeichnet den binären [https://de.wikipedia.org/wiki/Golay-Code Golay&ndash;Code] mit der Rate $1/2$ und die Markierung $\rm E$ einen [https://de.wikipedia.org/wiki/Reed-Muller-Code Reed&ndash;Muller&ndash;Code]. Dieser sehr niederratige Code kam  bereits 1971 bei der Raumsonde Mariner 9 zum Einsatz.
+*Die [[Kanalcodierung/Definition_und_Eigenschaften_von_Reed–Solomon–Codes|Reed&ndash;Solomon&ndash;Codes]] (RS&ndash;Codes) werden im zweiten Hauptkapitel noch ausführlich behandelt. Mit $\rm F$ markiert ist ein hochratiger RS&ndash;Code $(R = 223/255 > 0.9)$ und einem erforderlichen $10 \cdot \lg \, E_{\rm B}/N_0  < 6  \, \rm dB$.
-*Die Punkte <b>A</b>, <b>B</b> und <b>C</b> markieren [[Kanalcodierung/Beispiele_binärer_Blockcodes#Hamming.E2.80.93Codes|Hamming&ndash;Codes]] unterschiedlicher Rate. Sie alle benötigen für $\rm BER = 10^{-5}$ mindestens $10 \cdot \lg \, E_{\rm B}/N_0  = 8  \, \rm dB$.
+*Die Markierungen $\rm G$ und $\rm H$ bezeichnen beispielhafte [[Kanalcodierung/Grundlagen_der_Faltungscodierung|Faltungscodes]] (englisch: <i>Convolutional Codes</i>, CC) mittlerer Rate. Der Code $\rm G$ wurde schon 1972 bei der Pioneer10&ndash;Mission eingesetzt.
-*'''D''' kennzeichnet den binären [https://de.wikipedia.org/wiki/Golay-Code Golay&ndash;Code] mit der Rate $1/2$ und '''E''' einen [https://de.wikipedia.org/wiki/Reed-Muller-Code Reed&ndash;Muller&ndash;Code]. Dieser sehr niederratige Code kam  bereits 1971 bei der Raumsonde Mariner 9 zum Einsatz.
+*Die Kanalcodierung der Voyager&ndash;Mission Ende der 1970er Jahre ist mit $\rm I$ markiert. Es handelt sich um die Verkettung eines $\text{(2, 1, 7)}$&ndash;Faltungscodes mit einem Reed&ndash;Solomon&ndash;Code, wie im vierten Hauptkapitel beschrieben.<br><br>
 ''Anmerkung'': Bei den Faltungscodes hat insbesondere der dritte Kennungsparameter eine andere Bedeutung als bei den Blockcodes. (2, 1, 32) weist beispielsweise auf das Memory $m = 32$ hin.<br>