Aufgaben:Aufgabe 4.6: AWGN–Kanalkapazität - Versionsgeschichte

Guenter am 2. Oktober 2021 um 12:21 Uhr

2021-10-02T12:21:19Z

Guenter am 2. Oktober 2021 um 12:11 Uhr

2021-10-02T12:11:44Z

Guenter am 12. Februar 2020 um 16:28 Uhr

2020-02-12T16:28:42Z

Guenter am 12. Februar 2020 um 16:16 Uhr

2020-02-12T16:16:13Z

Guenter am 18. Oktober 2018 um 09:39 Uhr

2018-10-18T09:39:34Z

Guenter am 18. Oktober 2018 um 09:04 Uhr

2018-10-18T09:04:26Z

Mwiki-lnt: Textersetzung - „\\sSollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0\.” ein.“ durch „ “

2018-05-29T12:03:53Z

Textersetzung - „\*\s*Sollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0\.” ein.“ durch „ “

Guenter: Guenter verschob die Seite Aufgaben:4.6 AWGN–Kanalkapazität nach Aufgaben:Aufgabe 4.6: AWGN–Kanalkapazität

2018-01-03T14:11:35Z

Guenter verschob die Seite 4.6 AWGN–Kanalkapazität nach Aufgabe 4.6: AWGN–Kanalkapazität

Guenter am 12. Juni 2017 um 11:15 Uhr

2017-06-12T11:15:17Z

Guenter am 12. Juni 2017 um 10:50 Uhr

2017-06-12T10:50:54Z

@@ Zeile 107: / Zeile 107: @@
-'''(2)'''&nbsp; Richtig sind die <u>Lösungsvorschläge 1 bis 4</u>. Begründung:
+'''(2)'''&nbsp; Richtig sind die <u>Lösungsvorschläge 1 bis 4</u>.&nbsp; Begründung:
 * Für &nbsp;$P_X < 15 \ \rm mW$&nbsp; wird die Transinformation &nbsp;$I(X; Y)$&nbsp; stets kleiner als&nbsp; $2$&nbsp; bit sein, unabhängig von allen anderen Gegebenheiten.
 * Mit &nbsp;$P_X = 15 \ \rm mW$&nbsp; ist die maximale Transinformation &nbsp;$I(X; Y) = 2$&nbsp; bit nur  erreichbar, wenn die Eingangsgröße&nbsp; $X$&nbsp; gaußverteilt ist.&nbsp;  <br>Die Ausgangsgröße&nbsp; $Y$&nbsp; ist dann ebenfalls gaußverteilt.
 * Weist die Zufallsgröße&nbsp; $X$&nbsp; einen Gleichanteil &nbsp;$m_X$&nbsp; auf, so ist die Varianz &nbsp;$\sigma_X^2 = P_X - m_X^2 $&nbsp;  bei gegebenem&nbsp; $P_X$ &nbsp;kleiner, und es gilt &nbsp;$I(X; Y) = 1/2 &middot; \log_2 \ (1 + \sigma_X^2/P_N) < 2$&nbsp; bit.
-*  Voraussetzung für die gegebene Kanalkapazitätsgleichung ist, dass&nbsp; $X$ &nbsp;und&nbsp; $N$&nbsp; unkorreliert sind.&nbsp; Wären dagegen die Zufallsgrößen&nbsp; $X$ &nbsp;und&nbsp; $N$&nbsp; unkorreliert, so ergäbe sich &nbsp;$I(X; Y) = 0$.
+*  Voraussetzung für die gegebene Kanalkapazitätsgleichung ist, dass&nbsp; $X$ &nbsp;und&nbsp; $N$&nbsp; unkorreliert sind.&nbsp;
@@ Zeile 121: / Zeile 122: @@
 :$$h(N) \  =  \ {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 2\pi {\rm e} \cdot 1 \right )
    =  \ {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 17.08 \right )
-\hspace{0.15cm}\underline{= 2.047\,{\rm bit}}\hspace{0.05cm},$$
+\hspace{0.15cm}\underline{= 2.047\,{\rm bit}}\hspace{0.05cm}.$$
 * Für &nbsp;$P_X = 15 \ \rm mW$&nbsp; &nbsp;&#8658;&nbsp; &nbsp;$P_X\hspace{0.01cm}' = 15$:
 :$$h(X) \  =  \ {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 2\pi {\rm e} \cdot 15 \right )   =  {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 2\pi {\rm e}  \right ) +
 {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left (15 \right )
-\hspace{0.15cm}\underline{= 4.000\,{\rm bit}}\hspace{0.05cm}, $$
+\hspace{0.15cm}\underline{= 4.000\,{\rm bit}}\hspace{0.05cm}. $$
 *  Für &nbsp;$P_Y = P_X  + P_N = 16 \ \rm mW$&nbsp; &nbsp;&#8658;&nbsp; $P_Y\hspace{0.01cm}' = 16$:
 :$$h(Y) = 2.047\,{\rm bit} + 2.000\,{\rm bit}
@@ Zeile 140: / Zeile 141: @@
 *Abschließend wird auch noch die differentielle Verbundentropie angegeben, die aus obigem Schaubild nicht direkt ablesbar ist:
 :$$h(XY) = h(X) + h(Y) - I(X;Y) = 4.000 \,{\rm bit} + 4.047 \,{\rm bit}  - 2 \,{\rm bit} \hspace{0.15cm}\underline{= 6.047\,{\rm bit}}\hspace{0.05cm}.$$
-[[Datei: P_ID2900__Inf_A_4_6e.png |right|frame|Informationstheoretische Größen beim idealen Kanal]]
+'''(5)'''&nbsp; Beim idealen Kanal erhält man mit&nbsp; $h(X)\hspace{0.15cm}\underline{=  4.000 \,{\rm bit}}$:
 :$$h(Y \hspace{-0.05cm}\mid \hspace{-0.05cm} X) \  =  \ h(N) \hspace{0.15cm}\underline{= 0\,{\rm (bit)}}\hspace{0.05cm},$$
 :$$h(Y) \  =  \ h(X) \hspace{0.15cm}\underline{= 4\,{\rm bit}}\hspace{0.05cm},$$

@@ Zeile 13: / Zeile 13: @@
 :$$f_N(n) = \frac{1}{\sqrt{2\pi \hspace{0.03cm}\sigma_{\hspace{-0.05cm}N}^2}} \cdot {\rm e}^{
 - \hspace{0.05cm}{n^2}\hspace{-0.05cm}/{(2 \hspace{0.03cm} \sigma_{\hspace{-0.05cm}N}^2) }} \hspace{0.05cm}.$$
-Da die Zufallsgröße&nbsp; $N$&nbsp; mittelwertfrei ist &nbsp; &#8658; &nbsp; $m_{N} = 0$, kann man die Varianz &nbsp;$\sigma_{\hspace{-0.05cm}N}^2$&nbsp; mit der Leistung &nbsp;$P_N$&nbsp; gleichsetzen.&nbsp; In diesem Fall ist die differentielle Entropie der Zufallsgröße&nbsp; $N$&nbsp;  wie folgt angebbar (mit der Pseudo&ndash;Einheit &bdquo;bit&rdquo;):
+Da die Zufallsgröße&nbsp; $N$&nbsp; mittelwertfrei ist &nbsp; &#8658; &nbsp; $m_{N} = 0$,&nbsp; kann man die Varianz &nbsp;$\sigma_{\hspace{-0.05cm}N}^2$&nbsp; mit der Leistung &nbsp;$P_N$&nbsp; gleichsetzen.&nbsp; In diesem Fall ist die differentielle Entropie der Zufallsgröße&nbsp; $N$&nbsp;  wie folgt angebbar (mit der Pseudo&ndash;Einheit &bdquo;bit&rdquo;):
 :$$h(N) = {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 2\pi {\rm e} \cdot P_N \right )\hspace{0.05cm}.$$
-In dieser Aufgabe wird &nbsp;$P_N = 1 \rm mW$&nbsp; vorgegeben.&nbsp; Dabei ist zu beachten:
+In dieser Aufgabe wird &nbsp;$P_N = 1\hspace{0.1cm} \rm mW$&nbsp; vorgegeben.&nbsp; Dabei ist zu beachten:
 * Die Leistung&nbsp; $P_N$&nbsp; in obiger Gleichung muss wie die Varianz &nbsp;$\sigma_{\hspace{-0.05cm}N}^2$&nbsp; dimensionslos sein.
-* Um mit dieser Gleichung arbeiten zu können, muss die physikalische Größe &nbsp;$P_N$&nbsp; geeignet normiert werden, zum Beispiel entsprechend&nbsp; $P_N = 1 \rm mW$ &nbsp;&nbsp; &#8658; &nbsp;&nbsp; $P_N\hspace{0.01cm}' = 1$.
+* Um mit dieser Gleichung arbeiten zu können, muss die physikalische Größe &nbsp;$P_N$&nbsp; geeignet normiert werden, zum Beispiel entsprechend&nbsp; $P_N = 1\hspace{0.1cm} \rm mW$ &nbsp;&nbsp; &#8658; &nbsp;&nbsp; $P_N\hspace{0.01cm}' = 1$.
-* Bei anderer Normierung, beispielsweise &nbsp;$P_N = 1 \rm mW$&nbsp; &nbsp;&nbsp; &#8658; &nbsp;&nbsp; &nbsp;$P_N\hspace{0.01cm}' = 0.001$&nbsp; ergäbe sich für &nbsp;$h(N)$&nbsp; ein völlig anderer Zahlenwert.
+* Bei anderer Normierung, beispielsweise &nbsp;$P_N = 1\hspace{0.1cm} \rm mW$&nbsp; &nbsp;&nbsp; &#8658; &nbsp;&nbsp; &nbsp;$P_N\hspace{0.01cm}' = 0.001$&nbsp; ergäbe sich für &nbsp;$h(N)$&nbsp; ein völlig anderer Zahlenwert.
@@ Zeile 36: / Zeile 36: @@
 * Bei gaußförmiger Stör&ndash;WDF &nbsp;$f_N(n)$&nbsp; führt eine ebenfalls gaußförmige Eingangs&ndash;WDF $f_X(x)$&nbsp; zur maximalen Transinformation und damit zur Kanalkapazität.
@@ Zeile 48: / Zeile 45: @@
 ''Hinweise:''
 *Die Aufgabe gehört zum  Kapitel&nbsp; [[Informationstheorie/AWGN–Kanalkapazität_bei_wertkontinuierlichem_Eingang|AWGN–Kanalkapazität bei wertkontinuierlichem Eingang]].
-*Da die Ergebnisse in &bdquo;bit&rdquo; angegeben werden sollen, wird in den Gleichungen  &bdquo;log&rdquo; &nbsp;&#8658;&nbsp; &bdquo;log<sub>2</sub>&rdquo; verwendet.
+*Da die Ergebnisse in &bdquo;bit&rdquo; angegeben werden sollen,&nbsp; wird in den Gleichungen  &bdquo;log&rdquo; &nbsp;&#8658;&nbsp; &bdquo;log<sub>2</sub>&rdquo; verwendet.
@@ Zeile 70: / Zeile 67: @@
-{Berechnen Sie die differentiellen Entropien der Zufallsgrößen&nbsp; $N$,&nbsp; $X$&nbsp; und&nbsp; $Y$&nbsp; bei geeigneter Normierung, <br>zum Beispiel&nbsp;  $P_N = 1 \rm mW$ &nbsp;&nbsp; &#8658; &nbsp;&nbsp; $P_N\hspace{0.01cm}' = 1$.
+{Berechnen Sie die differentiellen Entropien der Zufallsgrößen&nbsp; $N$,&nbsp; $X$&nbsp; und&nbsp; $Y$&nbsp; bei geeigneter Normierung, <br>zum Beispiel&nbsp;  $P_N = 1 \hspace{0.1cm} \rm mW$ &nbsp;&nbsp; &#8658; &nbsp;&nbsp; $P_N\hspace{0.01cm}' = 1$.
 |type="{}"}
 $h(N) \ = \ $ { 2.047 3% } $\ \rm bit$

@@ Zeile 101: / Zeile 101: @@
 '''(1)'''&nbsp; Die Gleichung für die AWGN&ndash;Kanalkapazität in &bdquo;bit&rdquo; lautet:
 :$$C_{\rm bit} = {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + {P_X}/{P_N} \right )\hspace{0.05cm}.$$
-Mit $C_{\rm bit} = 2$ ergibt sich daraus:
+*Mit&nbsp; $C_{\rm bit} = 2$&nbsp; ergibt sich daraus:
 :$$4 \stackrel{!}{=} {\rm log}_2\hspace{0.05cm}\left ( 1 + {P_X}/{P_N} \right )
 \hspace{0.3cm}\Rightarrow \hspace{0.3cm} 1 + {P_X}/{P_N} \stackrel {!}{=} 2^4 = 16
@@ Zeile 107: / Zeile 107: @@
 \hspace{0.15cm}\underline{= 15\,{\rm mW}}
 \hspace{0.05cm}. $$
 '''(2)'''&nbsp; Richtig sind die <u>Lösungsvorschläge 1 bis 4</u>. Begründung:
-* Für &nbsp;$P_X < 15 \ \rm mW$&nbsp; wird die Transinformation &nbsp;$I(X; Y)$&nbsp; stets kleiner als $2$ bit sein, unabhängig von allen anderen Gegebenheiten.
+* Für &nbsp;$P_X < 15 \ \rm mW$&nbsp; wird die Transinformation &nbsp;$I(X; Y)$&nbsp; stets kleiner als&nbsp; $2$&nbsp; bit sein, unabhängig von allen anderen Gegebenheiten.
-* Mit &nbsp;$P_X = 15 \ \rm mW$&nbsp; ist die maximale Transinformation &nbsp;$I(X; Y) = 2$&nbsp; bit nur  erreichbar, wenn die Eingangsgröße $X$ gaußverteilt ist.  Die Ausgangsgröße $Y$ ist dann ebenfalls gaußverteilt.
+* Mit &nbsp;$P_X = 15 \ \rm mW$&nbsp; ist die maximale Transinformation &nbsp;$I(X; Y) = 2$&nbsp; bit nur  erreichbar, wenn die Eingangsgröße&nbsp; $X$&nbsp; gaußverteilt ist.&nbsp;  <br>Die Ausgangsgröße&nbsp; $Y$&nbsp; ist dann ebenfalls gaußverteilt.
-* Weist die Zufallsgröße $X$ einen Gleichanteil &nbsp;$m_X$ auf, so ist die Varianz &nbsp;$\sigma_X^2 = P_X - m_X^2 $&nbsp;  bei gegebenem $P_X$ &nbsp;kleiner, und es gilt &nbsp;$I(X; Y) = 1/2 &middot; \log_2 \ (1 + \sigma_X^2/P_N) < 2$ bit.
+* Weist die Zufallsgröße&nbsp; $X$&nbsp; einen Gleichanteil &nbsp;$m_X$&nbsp; auf, so ist die Varianz &nbsp;$\sigma_X^2 = P_X - m_X^2 $&nbsp;  bei gegebenem&nbsp; $P_X$ &nbsp;kleiner, und es gilt &nbsp;$I(X; Y) = 1/2 &middot; \log_2 \ (1 + \sigma_X^2/P_N) < 2$&nbsp; bit.
-*  Voraussetzung für die gegebene Kanalkapazitätsgleichung ist, dass $X$ &nbsp;und&nbsp; $N$ unkorreliert sind. Wären dagegen die Zufallsgrößen $X$ &nbsp;und&nbsp; $N$ unkorreliert, so ergäbe sich &nbsp;$I(X; Y) = 0$.
+*  Voraussetzung für die gegebene Kanalkapazitätsgleichung ist, dass&nbsp; $X$ &nbsp;und&nbsp; $N$&nbsp; unkorreliert sind.&nbsp; Wären dagegen die Zufallsgrößen&nbsp; $X$ &nbsp;und&nbsp; $N$&nbsp; unkorreliert, so ergäbe sich &nbsp;$I(X; Y) = 0$.
 [[Datei: P_ID2901__Inf_A_4_6c.png |right|frame|Informationstheoretische Größen für den AWGN-Kanal]]
-'''(3)'''&nbsp; Die angegebene Gleichung für die differentielle Entropie macht nur bei dimensionsloser Leistung Sinn. Mit der vorgeschlagenen Normierung erhält man:
+'''(3)'''&nbsp; Die angegebene Gleichung für die differentielle Entropie macht nur bei dimensionsloser Leistung Sinn.&nbsp; Mit der vorgeschlagenen Normierung erhält man:
 * Für &nbsp;$P_N = 1 \ \rm mW$&nbsp; &nbsp;&#8658;&nbsp; &nbsp;$P_N\hspace{0.05cm}' = 1$:
 :$$h(N) \  =  \ {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 2\pi {\rm e} \cdot 1 \right )
@@ Zeile 129: / Zeile 132: @@
 :$$h(Y) = 2.047\,{\rm bit} + 2.000\,{\rm bit}
 \hspace{0.15cm}\underline{= 4.047\,{\rm bit}}\hspace{0.05cm}.$$
 '''(4)'''&nbsp; Für die differentielle Irrelevanz gilt beim AWGN&ndash;Kanal:
 :$$h(Y \hspace{-0.05cm}\mid \hspace{-0.05cm} X) = h(N) \hspace{0.15cm}\underline{= 2.047\,{\rm bit}}\hspace{0.05cm}.$$
-Entsprechend nebenstehender Grafik gilt aber auch:
+*Entsprechend nebenstehender Grafik gilt aber auch:
 :$$h(Y \hspace{-0.05cm}\mid \hspace{-0.05cm} X) = h(Y) - I(X;Y) = 4.047 \,{\rm bit} - 2 \,{\rm bit} \hspace{0.15cm}\underline{= 2.047\,{\rm bit}}\hspace{0.05cm}. $$
-Daraus kann die differentielle Äquivokation wie folgt berechnet werden:
+*Daraus kann die differentielle Äquivokation wie folgt berechnet werden:
 :$$h(X \hspace{-0.05cm}\mid \hspace{-0.05cm} Y) = h(X) - I(X;Y) = 4.000 \,{\rm bit} - 2 \,{\rm bit} \hspace{0.15cm}\underline{= 2.000\,{\rm bit}}\hspace{0.05cm}.$$
-Abschließend wird auch noch die differentielle Verbundentropie angegeben, die aus obigem Schaubild nicht direkt ablesbar ist:
+*Abschließend wird auch noch die differentielle Verbundentropie angegeben, die aus obigem Schaubild nicht direkt ablesbar ist:
 :$$h(XY) = h(X) + h(Y) - I(X;Y) = 4.000 \,{\rm bit} + 4.047 \,{\rm bit}  - 2 \,{\rm bit} \hspace{0.15cm}\underline{= 6.047\,{\rm bit}}\hspace{0.05cm}.$$
 [[Datei: P_ID2900__Inf_A_4_6e.png |right|frame|Informationstheoretische Größen beim idealen Kanal]]
-'''(5)'''&nbsp; Beim idealen Kanal erhält man mit $h(X)\underline{=  4.000 \,{\rm bit}}$:
+'''(5)'''&nbsp; Beim idealen Kanal erhält man mit $h(X)\hspace{0.15cm}\underline{=  4.000 \,{\rm bit}}$:
 :$$h(Y \hspace{-0.05cm}\mid \hspace{-0.05cm} X) \  =  \ h(N) \hspace{0.15cm}\underline{= 0\,{\rm (bit)}}\hspace{0.05cm},$$
 :$$h(Y) \  =  \ h(X) \hspace{0.15cm}\underline{= 4\,{\rm bit}}\hspace{0.05cm},$$
@@ Zeile 149: / Zeile 154: @@
 h(X \hspace{-0.05cm}\mid \hspace{-0.05cm} Y) \  =  \ h(X) - I(X;Y)\hspace{0.15cm}\underline{= 0\,{\rm (bit)}}\hspace{0.05cm}.$$
-Die Grafik zeigt diese Größen in einem Flussdiagramm.
+*Die Grafik zeigt diese Größen in einem Flussdiagramm.
-*Das gleiche Diagramm ergäbe sich auch im wertdiskreten Fall mit $M = 16$ gleichwahrscheinlichen Symbolen &nbsp; &#8658; &nbsp; $H(X)=  4.000 \,{\rm bit}$.
+*Das gleiche Diagramm ergäbe sich auch im wertdiskreten Fall mit&nbsp; $M = 16$&nbsp; gleichwahrscheinlichen Symbolen &nbsp; &#8658; &nbsp; $H(X)=  4.000 \,{\rm bit}$.
-*Man müsste nur jedes $h$ durch ein $H$ ersetzen.
+*Man müsste nur jedes&nbsp; $h$&nbsp; durch ein&nbsp; $H$&nbsp; ersetzen.
 {{ML-Fuß}}

@@ Zeile 4: / Zeile 4: @@
 [[Datei:P_ID2899__Inf_A_4_6.png|right|frame|Flussdiagramm der Information]]
-Wir gehen vom [[Informationstheorie/AWGN–Kanalkapazität_bei_wertkontinuierlichem_Eingang#Kanalkapazit.C3.A4t_des_AWGN.E2.80.93Kanals| AWGN-Kanalmodell]] aus:
+Wir gehen vom[&nbsp; [[Informationstheorie/AWGN–Kanalkapazität_bei_wertkontinuierlichem_Eingang#Kanalkapazit.C3.A4t_des_AWGN.E2.80.93Kanals| AWGN-Kanalmodell]]&nbsp; aus:
-* $X$ kennzeichnet den Eingang (Sender).
+* $X$&nbsp; kennzeichnet den Eingang (Sender).
-* $N$ steht für eine gaußverteilte Störung.
+* $N$&nbsp; steht für eine gaußverteilte Störung.
-* $Y = X +N$ beschreibt den Ausgang (Empfänger) bei additiver Störung.
+* $Y = X +N$&nbsp; beschreibt den Ausgang (Empfänger) bei additiver Störung.
@@ Zeile 13: / Zeile 13: @@
 :$$f_N(n) = \frac{1}{\sqrt{2\pi \hspace{0.03cm}\sigma_{\hspace{-0.05cm}N}^2}} \cdot {\rm e}^{
 - \hspace{0.05cm}{n^2}\hspace{-0.05cm}/{(2 \hspace{0.03cm} \sigma_{\hspace{-0.05cm}N}^2) }} \hspace{0.05cm}.$$
-Da die Zufallsgröße $N$ mittelwertfrei ist &nbsp; &#8658; &nbsp; $m_{N} = 0$, kann man die Varianz &nbsp;$\sigma_{\hspace{-0.05cm}N}^2$&nbsp; mit der Leistung &nbsp;$P_N$&nbsp; gleichsetzen. In diesem Fall ist die differentielle Entropie der Zufallsgröße $N$  wie folgt angebbar (mit der Pseudo&ndash;Einheit &bdquo;bit&rdquo;):
+Da die Zufallsgröße&nbsp; $N$&nbsp; mittelwertfrei ist &nbsp; &#8658; &nbsp; $m_{N} = 0$, kann man die Varianz &nbsp;$\sigma_{\hspace{-0.05cm}N}^2$&nbsp; mit der Leistung &nbsp;$P_N$&nbsp; gleichsetzen.&nbsp; In diesem Fall ist die differentielle Entropie der Zufallsgröße&nbsp; $N$&nbsp;  wie folgt angebbar (mit der Pseudo&ndash;Einheit &bdquo;bit&rdquo;):
 :$$h(N) = {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 2\pi {\rm e} \cdot P_N \right )\hspace{0.05cm}.$$
-In dieser Aufgabe wird &nbsp;$P_N = 1 \rm mW$&nbsp; vorgegeben. Dabei ist zu beachten:
+In dieser Aufgabe wird &nbsp;$P_N = 1 \rm mW$&nbsp; vorgegeben.&nbsp; Dabei ist zu beachten:
-* Die Leistung $P_N$ in obiger Gleichung muss wie die Varianz &nbsp;$\sigma_{\hspace{-0.05cm}N}^2$&nbsp; dimensionslos sein.
+* Die Leistung&nbsp; $P_N$&nbsp; in obiger Gleichung muss wie die Varianz &nbsp;$\sigma_{\hspace{-0.05cm}N}^2$&nbsp; dimensionslos sein.
-* Um mit dieser Gleichung arbeiten zu können, muss die physikalische Größe &nbsp;$P_N$&nbsp; geeignet normiert werden, zum Beispiel entsprechend $P_N = 1 \rm mW$ &nbsp;&nbsp;&#8658;&nbsp;&nbsp; $P_N\hspace{0.01cm}' = 1$.
+* Um mit dieser Gleichung arbeiten zu können, muss die physikalische Größe &nbsp;$P_N$&nbsp; geeignet normiert werden, zum Beispiel entsprechend&nbsp; $P_N = 1 \rm mW$ &nbsp;&nbsp; &#8658; &nbsp;&nbsp; $P_N\hspace{0.01cm}' = 1$.
-* Bei anderer Normierung, beispielsweise &nbsp;$P_N = 1 \rm mW$&nbsp; &nbsp;&nbsp;&#8658;&nbsp;&nbsp; &nbsp;$P_N\hspace{0.01cm}' = 0.001$&nbsp; ergäbe sich für &nbsp;$h(N)$&nbsp; ein völlig anderer Zahlenwert.
+* Bei anderer Normierung, beispielsweise &nbsp;$P_N = 1 \rm mW$&nbsp; &nbsp;&nbsp; &#8658; &nbsp;&nbsp; &nbsp;$P_N\hspace{0.01cm}' = 0.001$&nbsp; ergäbe sich für &nbsp;$h(N)$&nbsp; ein völlig anderer Zahlenwert.
-Weiter können Sie bei der Lösung dieser Aufgabe berücksichtigen:
+Weiter können Sie für die Lösung dieser Aufgabe berücksichtigen:
-* Die Kanalkapazität ist definiert als die maximale Transinformation zwischen Eingang $X$ und Ausgang $Y$ bei bestmöglicher Eingangsverteilung:
+* Die Kanalkapazität ist definiert als die maximale Transinformation zwischen Eingang&nbsp; $X$&nbsp; und Ausgang&nbsp; $Y$&nbsp; bei bestmöglicher Eingangsverteilung:
 :$$C = \max_{\hspace{-0.15cm}f_X:\hspace{0.05cm} {\rm E}[X^2] \le P_X} \hspace{-0.2cm}  I(X;Y)
 \hspace{0.05cm}.$$
@@ Zeile 33: / Zeile 33: @@
 :$$C_{\rm AWGN} = {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{P_X}{P_N} \right )
 = {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + \frac{P_{\hspace{-0.05cm}X}\hspace{0.01cm}'}{P_{\hspace{-0.05cm}N}\hspace{0.01cm}'} \right )\hspace{0.05cm}.$$
-:Daraus ist ersichtlich, dass die die Kanalkapazität $C$ und auch die Transinformation &nbsp;$I(X; Y)$&nbsp; im Gegensatz zu den differentiellen Entropien unabhängig von obiger Normierung ist.
+:Man erkennt:&nbsp; Die Kanalkapazität&nbsp; $C$&nbsp; und auch die Transinformation &nbsp;$I(X; Y)$&nbsp; sind im Gegensatz zu den differentiellen Entropien unabhängig von obiger Normierung.
@@ Zeile 57: / Zeile 62: @@
 {Unter welchen Voraussetzungen ist &nbsp;$I(X; Y) = 2 \ \rm bit$&nbsp; überhaupt erreichbar?
 |type="[]"}
-+ $P_X$ ist wie unter '''(1)''' ermittelt oder größer.
++ $P_X$&nbsp; ist wie unter&nbsp; '''(1)'''&nbsp; ermittelt oder größer.
-+ Die Zufallsgröße $X$ ist gaußverteilt.
++ Die Zufallsgröße&nbsp; $X$&nbsp; ist gaußverteilt.
-+ Die Zufallsgröße $X$ ist mittelwertfrei.
++ Die Zufallsgröße&nbsp; $X$&nbsp; ist mittelwertfrei.
-+ Die Zufallsgrößen $X$ und $N$ sind unkorreliert.
++ Die Zufallsgrößen&nbsp; $X$&nbsp; und&nbsp; $N$&nbsp; sind unkorreliert.
-- Die Zufallsgrößen $X$ und $Y$ sind unkorreliert.
+- Die Zufallsgrößen&nbsp; $X$&nbsp; und&nbsp; $Y$&nbsp; sind unkorreliert.
-{Berechnen Sie die differentiellen Entropien der Zufallsgrößen $N$, $X$ und $Y$ bei geeigneter Normierung, z. B.  $P_N = 1 \rm mW$ &nbsp;&nbsp;&#8658;&nbsp;&nbsp; $P_N\hspace{0.01cm}' = 1$.
+{Berechnen Sie die differentiellen Entropien der Zufallsgrößen&nbsp; $N$,&nbsp; $X$&nbsp; und&nbsp; $Y$&nbsp; bei geeigneter Normierung, <br>zum Beispiel&nbsp;  $P_N = 1 \rm mW$ &nbsp;&nbsp; &#8658; &nbsp;&nbsp; $P_N\hspace{0.01cm}' = 1$.
 |type="{}"}
 $h(N) \ = \ $ { 2.047 3% } $\ \rm bit$
@@ Zeile 80: / Zeile 85: @@
-{Welche Größen ergäben sich bei gleichem $P_X$ im Grenzfall $P_N\hspace{0.01cm} ' \to 0$ ?
+{Welche Größen ergäben sich bei gleichem&nbsp; $P_X$&nbsp; im Grenzfall&nbsp; $P_N\hspace{0.01cm} ' \to 0$ ?
 |type="{}"}
 $h(X) \ = \ $ { 4 3% } $\ \rm bit$

@@ Zeile 96: / Zeile 96: @@
 '''(1)'''&nbsp; Die Gleichung für die AWGN&ndash;Kanalkapazität in &bdquo;bit&rdquo; lautet:
 :$$C_{\rm bit} = {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 1 + {P_X}/{P_N} \right )\hspace{0.05cm}.$$
-Mit <i>C</i><sub>bit</sub> = 2 ergibt sich daraus:
+Mit $C_{\rm bit} = 2$ ergibt sich daraus:
 :$$4 \stackrel{!}{=} {\rm log}_2\hspace{0.05cm}\left ( 1 + {P_X}/{P_N} \right )
 \hspace{0.3cm}\Rightarrow \hspace{0.3cm} 1 + {P_X}/{P_N} \stackrel {!}{=} 2^4 = 16
@@ Zeile 102: / Zeile 102: @@
 \hspace{0.15cm}\underline{= 15\,{\rm mW}}
 \hspace{0.05cm}. $$
 '''(2)'''&nbsp; Richtig sind die <u>Lösungsvorschläge 1 bis 4</u>. Begründung:
-* Für <i>P<sub>X</sub></i> < 15 mW wird die Transinformation <i>I</i>(<i>X</i>; <i>Y</i>) stets kleiner als 2 bit sein, unabhängig von allen anderen Gegebenheiten.
+* Für &nbsp;$P_X < 15 \ \rm mW$&nbsp; wird die Transinformation &nbsp;$I(X; Y)$&nbsp; stets kleiner als $2$ bit sein, unabhängig von allen anderen Gegebenheiten.
-* Mit <i>P<sub>X</sub></i> = 15 mW ist die maximale Transinformation <i>I</i>(<i>X</i>; <i>Y</i>) = 2 bit nur  erreichbar, wenn die Eingangsgröße <i>X</i> gaußverteilt ist.  Die Ausgangsgröße <i>Y</i> ist dann ebenfalls gaußverteilt.
+* Mit &nbsp;$P_X = 15 \ \rm mW$&nbsp; ist die maximale Transinformation &nbsp;$I(X; Y) = 2$&nbsp; bit nur  erreichbar, wenn die Eingangsgröße $X$ gaußverteilt ist.  Die Ausgangsgröße $Y$ ist dann ebenfalls gaußverteilt.
-* Weist die Zufallsgröße <i>X</i> einen Gleichanteil <i>m<sub>X</sub></i> auf, so ist die Varianz <i>&sigma;<sub>X</sub></i><sup>2</sup> = <i>P<sub>X</sub></i> &ndash; <i>m<sub>X</sub></i><sup>2</sup> bei gegebenem <i>P<sub>X</sub></i> &nbsp;kleiner, und es gilt <i>I</i>(<i>X</i>;<i>Y</i>) = 1/2 &middot; log<sub>2</sub> (1 + <i>&sigma;<sub>X</sub></i><sup>2</sup>/<i>P<sub>N</sub></i>) < 2 bit.
+* Weist die Zufallsgröße $X$ einen Gleichanteil &nbsp;$m_X$ auf, so ist die Varianz &nbsp;$\sigma_X^2 = P_X - m_X^2 $&nbsp;  bei gegebenem $P_X$ &nbsp;kleiner, und es gilt &nbsp;$I(X; Y) = 1/2 &middot; \log_2 \ (1 + \sigma_X^2/P_N) < 2$ bit.
-*  Voraussetzung für die gegebene Kanalkapazitätsgleichung ist, dass <i>X</i> und <i>N</i> unkorreliert sind. Wären dagegen die Zufallsgrößen <i>X</i> und <i>Y</i> unkorreliert, so ergäbe sich <i>I</i>(<i>X</i>; <i>Y</i>) = 0.
+*  Voraussetzung für die gegebene Kanalkapazitätsgleichung ist, dass $X$ &nbsp;und&nbsp; $N$ unkorreliert sind. Wären dagegen die Zufallsgrößen $X$ &nbsp;und&nbsp; $N$ unkorreliert, so ergäbe sich &nbsp;$I(X; Y) = 0$.
 [[Datei: P_ID2901__Inf_A_4_6c.png |right|frame|Informationstheoretische Größen für den AWGN-Kanal]]
 '''(3)'''&nbsp; Die angegebene Gleichung für die differentielle Entropie macht nur bei dimensionsloser Leistung Sinn. Mit der vorgeschlagenen Normierung erhält man:
-* Für <i>P<sub>N</sub></i> = 1 mW &nbsp;&#8658;&nbsp; <i>P'<sub>N</sub></i> = 1:
+* Für &nbsp;$P_N = 1 \ \rm mW$&nbsp; &nbsp;&#8658;&nbsp; &nbsp;$P_N\hspace{0.05cm}' = 1$:
 :$$h(N) \  =  \ {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 2\pi {\rm e} \cdot 1 \right )
    =  \ {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 17.08 \right )
 \hspace{0.15cm}\underline{= 2.047\,{\rm bit}}\hspace{0.05cm},$$
-* Für <i>P<sub>X</sub></i> = 15 mW &nbsp;&#8658;&nbsp; <i>P&prime;<sub>X</sub></i> = 15:
+* Für &nbsp;$P_X = 15 \ \rm mW$&nbsp; &nbsp;&#8658;&nbsp; &nbsp;$P_X\hspace{0.01cm}' = 15$:
 :$$h(X) \  =  \ {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 2\pi {\rm e} \cdot 15 \right )   =  {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left ( 2\pi {\rm e}  \right ) +
 {1}/{2} \cdot {\rm log}_2\hspace{0.05cm}\left (15 \right )
 \hspace{0.15cm}\underline{= 4.000\,{\rm bit}}\hspace{0.05cm}, $$
-*  Für <i>P<sub>Y</sub></i> = <i>P<sub>X</sub></i> + <i>P<sub>N</sub></i> = 16 mW &nbsp;&#8658;&nbsp; <i>P&prime;<sub>Y</sub></i> = 16:
+*  Für &nbsp;$P_Y = P_X  + P_N = 16 \ \rm mW$&nbsp; &nbsp;&#8658;&nbsp; $P_Y\hspace{0.01cm}' = 16$:
 :$$h(Y) = 2.047\,{\rm bit} + 2.000\,{\rm bit}
 \hspace{0.15cm}\underline{= 4.047\,{\rm bit}}\hspace{0.05cm}.$$
@@ Zeile 134: / Zeile 135: @@
 Abschließend wird auch noch die differentielle Verbundentropie angegeben, die aus obigem Schaubild nicht direkt ablesbar ist:
 :$$h(XY) = h(X) + h(Y) - I(X;Y) = 4.000 \,{\rm bit} + 4.047 \,{\rm bit}  - 2 \,{\rm bit} \hspace{0.15cm}\underline{= 6.047\,{\rm bit}}\hspace{0.05cm}.$$
 [[Datei: P_ID2900__Inf_A_4_6e.png |right|frame|Informationstheoretische Größen beim idealen Kanal]]
-'''(5)'''&nbsp; Bei einem idealen Kanal erhält man mit <u><i>h</i>(<i>X</i>) = 4 bit</u>:
+'''(5)'''&nbsp; Beim idealen Kanal erhält man mit $h(X)\underline{=  4.000 \,{\rm bit}}$:
 :$$h(Y \hspace{-0.05cm}\mid \hspace{-0.05cm} X) \  =  \ h(N) \hspace{0.15cm}\underline{= 0\,{\rm (bit)}}\hspace{0.05cm},$$
 :$$h(Y) \  =  \ h(X) \hspace{0.15cm}\underline{= 4\,{\rm bit}}\hspace{0.05cm},$$
@@ Zeile 145: / Zeile 147: @@
-Das gleiche Diagramm ergäbe sich auch im wertdiskreten Fall mit <i>M</i> = 16 gleichwahrscheinlichen Symbolen &nbsp;&#8658;&nbsp; <i>H</i>(<i>X</i>) = 4 bit. Man müsste nur jedes &bdquo;<i>h</i>&rdquo; durch ein &bdquo;<i>H</i>&rdquo; ersetzen.
+*Das gleiche Diagramm ergäbe sich auch im wertdiskreten Fall mit $M = 16$ gleichwahrscheinlichen Symbolen &nbsp; &#8658; &nbsp; $H(X)=  4.000 \,{\rm bit}$.
 {{ML-Fuß}}

@@ Zeile 40: / Zeile 40: @@
 *Die Aufgabe gehört zum  Kapitel [[Informationstheorie/AWGN–Kanalkapazität_bei_wertkontinuierlichem_Eingang|AWGN–Kanalkapazität bei wertkontinuierlichem Eingang]].
 *Da die Ergebnisse in &bdquo;bit&rdquo; angegeben werden sollen, wird in den Gleichungen  &bdquo;log&rdquo; &nbsp;&#8658;&nbsp; &bdquo;log<sub>2</sub>&rdquo; verwendet.
-*Sollte die Eingabe des Zahlenwertes &bdquo;0&rdquo; erforderlich sein, so geben Sie bitte &bdquo;0.&rdquo; ein.

@@ Zeile 79: / Zeile 79: @@
 |type="{}"}
 $h(X) \ = \ $ { 4 3% } $\ \rm bit$
 $h(Y) \ = \ $ { 4 3% } $\ \rm bit$
-$h(Y|X) \ = \ $ { 0 3% } $\ \rm bit$
+$I(X;Y) \ = \ $ { 4 3% } $\ \rm bit$
 $h(X|Y) \ = \ $ { 0. } $\ \rm bit$
-$I(X;Y) \ = \ $ { 4 3% } $\ \rm bit$