Aufgaben:Aufgabe 4.3Z: Exponential– und Laplaceverteilung - Versionsgeschichte

Guenter am 28. September 2021 um 12:14 Uhr

2021-09-28T12:14:05Z

Guenter am 12. Februar 2020 um 07:47 Uhr

2020-02-12T07:47:04Z

Guenter am 12. Februar 2020 um 07:32 Uhr

2020-02-12T07:32:21Z

Guenter am 16. Oktober 2018 um 13:53 Uhr

2018-10-16T13:53:30Z

Guenter am 16. Oktober 2018 um 13:03 Uhr

2018-10-16T13:03:33Z

Guenter am 16. Oktober 2018 um 12:35 Uhr

2018-10-16T12:35:30Z

Mwiki-lnt: Textersetzung - „\\sSollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0\.” ein.“ durch „ “

2018-05-29T12:03:51Z

Textersetzung - „\*\s*Sollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0\.” ein.“ durch „ “

Guenter: Guenter verschob die Seite Aufgaben:4.3Z Exponential– und Laplaceverteilung nach Aufgaben:Aufgabe 4.3Z: Exponential– und Laplaceverteilung

2018-01-03T14:10:17Z

Guenter verschob die Seite 4.3Z Exponential– und Laplaceverteilung nach Aufgabe 4.3Z: Exponential– und Laplaceverteilung

Guenter am 9. Juni 2017 um 13:23 Uhr

2017-06-09T13:23:45Z

Änderungen zeigen

Guenter am 9. Juni 2017 um 13:05 Uhr

2017-06-09T13:05:40Z

@@ Zeile 4: / Zeile 4: @@
 [[Datei:P_ID2875__Inf_Z_4_3.png|right|frame|WDF von Exponentialverteilung  und Laplaceverteilung (unten)]]
-Wir betrachten hier die Wahrscheinlichkeitsdichtefunktionen (WDF) zweier wertkontinuierlicher Zufallsgrößen:
+Wir betrachten hier die Wahrscheinlichkeitsdichtefunktionen&nbsp; $\rm (WDF)$&nbsp; zweier wertkontinuierlicher Zufallsgrößen:
 * Die Zufallsgröße&nbsp; $X$&nbsp; ist exponentialverteilt (siehe obere Darstellung): &nbsp; Für&nbsp; $x<0$&nbsp;  ist&nbsp; $f_X(x) = 0$,&nbsp; und für positive $x$&ndash;Werte gilt:
 :$$f_X(x) =  \lambda \cdot {\rm e}^{-\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}x}\hspace{0.05cm}. $$
@@ Zeile 34: / Zeile 34: @@
 *Nützliche Hinweise zur Lösung dieser Aufgabe finden Sie insbesondere auf der Seite&nbsp;  [[Informationstheorie/Differentielle_Entropie#Differentielle_Entropie_einiger_leistungsbegrenzter_Zufallsgr.C3.B6.C3.9Fen|Differentielle Entropie einiger leistungsbegrenzter Zufallsgrößen]].
 *Für die Varianz der exponentialverteiten Zufallsgröße $X$ gilt, wie in  [[Aufgaben:4.01Z_Momentenberechnung|Aufgabe 4.1Z]] hergeleitet: &nbsp; $\sigma^2 = 1/\lambda^2$.
-*Die Varianz der laplaceverteiten Zufallsgröße $Y$ ist bei gleichem $\it \lambda$ doppelt so groß: &nbsp; $\sigma^2 = 2/\lambda^2$.
+*Die Varianz der laplaceverteiten Zufallsgröße $Y$ ist bei gleichem&nbsp; $\it \lambda$&nbsp; doppelt so groß: &nbsp; $\sigma^2 = 2/\lambda^2$.

@@ Zeile 70: / Zeile 70: @@
 *Dann gilt für die differentielle Entropie:
 :$$h(X) = -\hspace{-0.7cm}  \int\limits_{x \hspace{0.05cm}\in \hspace{0.05cm}{\rm supp}
-\hspace{0.03cm}(\hspace{-0.03cm}f_X)} \hspace{-0.35cm}  f_X(x) \cdot {\rm ln} \hspace{0.1cm} [f_X(x)] \hspace{0.1cm}{\rm d}x
+\hspace{0.03cm}(\hspace{-0.03cm}f_X)} \hspace{-0.35cm}  f_X(x) \cdot {\rm ln} \hspace{0.1cm} \big [f_X(x)\big] \hspace{0.1cm}{\rm d}x
 \hspace{0.05cm}.$$
-*Für die Exponentialverteilung sind die Integrationsgrenzen $0$ und $+&#8734;$ anzusetzen. In diesem Bereich wird die auf dem Angabenblatt angegebene WDF $f_X(x)$ eingesetzt:
+*Für die Exponentialverteilung sind die Integrationsgrenzen&nbsp; $0$&nbsp; und&nbsp; $+&#8734;$&nbsp; anzusetzen.&nbsp; In diesem Bereich wird die WDF&nbsp; $f_X(x)$&nbsp; gemäß Angabenblatt eingesetzt:
 :$$h(X) =-  \int_{0}^{\infty} \hspace{-0.15cm}
 \lambda \cdot {\rm e}^{-\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}x}
@@ Zeile 83: / Zeile 83: @@
 \hspace{0.05cm}.$$
 Man erkennt:
-* Der erste Integrand ist identisch mit der hier betrachteten WDF $f_X(x)$. Das Integral über den gesamten Integrationsbereich ergibt somit $1$.
+* Der erste Integrand ist identisch mit der hier betrachteten WDF&nbsp; $f_X(x)$.&nbsp; Das Integral über den gesamten Integrationsbereich ergibt somit&nbsp; $1$.
-* Das zweite Integral entspricht genau der Definition des Mittelwertes $m_1$ (Moment erster Ordnung). Für die Exponentialverteilung gilt $m_1 = 1/&lambda;$ Daraus folgt:
+* Das zweite Integral entspricht genau der Definition des Mittelwertes&nbsp; $m_1$&nbsp; (Moment erster Ordnung).&nbsp; Für die Exponentialverteilung gilt&nbsp; $m_1 = 1/&lambda;$.&nbsp; Daraus folgt:
 :$$h(X) = - \hspace{0.05cm} {\rm ln} \hspace{0.1cm} (\lambda) + 1 =
 - \hspace{0.05cm} {\rm ln} \hspace{0.1cm} (\lambda) + \hspace{0.05cm} {\rm ln} \hspace{0.1cm} ({\rm e}) = {\rm ln} \hspace{0.1cm} ({\rm e}/\lambda)
 \hspace{0.05cm}.$$
-*Dieses Ergebnis ist mit der Zusatzeinheit &bdquo;nat&rdquo; zu versehen. Mit $\log_2$ anstelle von $\ln$ erhält man die differentielle Entropie in &bdquo;bit&rdquo;:
+*Dieses Ergebnis ist mit der Zusatzeinheit &bdquo;nat&rdquo; zu versehen.&nbsp; Mit&nbsp; $\log_2$&nbsp; anstelle von&nbsp; $\ln$&nbsp; erhält man die differentielle Entropie in &bdquo;bit&rdquo;:
 :$$h(X) =  {\rm log}_2 \hspace{0.1cm} ({\rm e}/\lambda)
 \hspace{0.3cm} \Rightarrow \hspace{0.3cm} \lambda = 1{\rm :}
@@ Zeile 96: / Zeile 96: @@
 '''(2)'''&nbsp; Unter Berücksichtigung der für die Exponentialverteilung gültigen Gleichung $\sigma^2 = 1/\lambda^2$ kann man das in  '''(1)''' gefundene Ergebnis wie folgt umformen:
 : $$h(X) =  {\rm log}_2 \hspace{0.1cm} ({\rm e}/\lambda) =
 {1}/{2}\cdot {\rm log}_2 \hspace{0.1cm} ({\rm e}^2/\lambda^2)
@@ Zeile 102: / Zeile 103: @@
 {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} ({\rm e}^2 \cdot \sigma^2)
 \hspace{0.05cm}.$$
-Ein Vergleich mit der geforderten Grundform &nbsp;$h(X) = {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} ({\it \Gamma}_{\hspace{-0.05cm} \rm L}^{\hspace{0.08cm}(X)} \cdot \sigma^2)$ führt zum Ergebnis:
+*Ein Vergleich mit der geforderten Grundform &nbsp;$h(X) = {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} ({\it \Gamma}_{\hspace{-0.05cm} \rm L}^{\hspace{0.08cm}(X)} \cdot \sigma^2)$&nbsp; führt zum Ergebnis:
 :$${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(X)}  = {\rm e}^2 \hspace{0.15cm}\underline{\approx 7.39}
 \hspace{0.05cm}.$$
 '''(3)'''&nbsp; Bei der Laplaceverteilung unterteilen wir den Integrationsbereich in zwei Teilbereiche:
-* $Y$ negativ &nbsp; &#8658; &nbsp; Anteil $h_{\rm neg}(Y)$,
+* $Y$&nbsp; negativ &nbsp; &#8658; &nbsp; Anteil&nbsp; $h_{\rm neg}(Y)$,
-* $Y$ positiv &nbsp; &#8658; &nbsp; Anteil $h_{\rm pos}(Y)$.
+* $Y$&nbsp; positiv &nbsp; &#8658; &nbsp; Anteil&nbsp; $h_{\rm pos}(Y)$.
-Die gesamte differentielle Entropie ergibt sich unter Berücksichtigung von $h_{\rm neg}(Y) = h_{\rm pos}(Y)$ zu
+Die gesamte differentielle Entropie ergibt sich unter Berücksichtigung von&nbsp; $h_{\rm neg}(Y) = h_{\rm pos}(Y)$&nbsp; zu
 :$$h(Y) =  h_{\rm neg}(Y) + h_{\rm pos}(Y) = 2 \cdot h_{\rm pos}(Y) $$
 :$$\Rightarrow \hspace{0.3cm} h(Y) = -  2 \cdot \int_{0}^{\infty} \hspace{-0.15cm}
@@ Zeile 123: / Zeile 125: @@
 \hspace{0.05cm}.$$
-Berücksichtigen wir wiederum, dass
+Berücksichtigen wir wiederum, dass das erste Integral den Wert&nbsp; $1$ ergibt&nbsp; (WDF&ndash;Fläche) und das zweite Integral den Mittelwert&nbsp; $m_1 = 1/\lambda$&nbsp; angibt, so erhalten wir:
 :$$h(Y) = - \hspace{0.05cm} {\rm ln} \hspace{0.1cm} (\lambda/2) + 1 =
 - \hspace{0.05cm} {\rm ln} \hspace{0.1cm} (\lambda/2) + \hspace{0.05cm} {\rm ln} \hspace{0.1cm} ({\rm e}) = {\rm ln} \hspace{0.1cm} (2{\rm e}/\lambda)
 \hspace{0.05cm}.$$
-Da das Ergebnis in &bdquo;bit&rdquo; gefordert ist, muss noch $\ln$ durch $\log_2$ ersetzt werden:
+*Da das Ergebnis in &bdquo;bit&rdquo; gefordert ist, muss noch&nbsp; $\ln$&nbsp; durch&nbsp; $\log_2$&nbsp; ersetzt werden:
 :$$h(Y) =  {\rm log}_2 \hspace{0.1cm} (2{\rm e}/\lambda)
 \hspace{0.3cm} \Rightarrow \hspace{0.3cm} \lambda = 1{\rm :}
@@ Zeile 140: / Zeile 137: @@
 '''(4)'''&nbsp; Bei der Laplaceverteilung gilt der Zusammenhang $\sigma^2 = 2/\lambda^2$. Damit erhält man:
 :$$h(X) =  {\rm log}_2 \hspace{0.1cm} (\frac{2{\rm e}}{\lambda}) =
 {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} (\frac{4{\rm e}^2}{\lambda^2})
@@ Zeile 146: / Zeile 144: @@
 {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} (2 {\rm e}^2 \cdot \sigma^2) \hspace{0.3cm} \Rightarrow \hspace{0.3cm} {\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(Y)}   = 2 \cdot {\rm e}^2 \hspace{0.15cm}\underline{\approx 14.78}
 \hspace{0.05cm}.$$
-*Der ${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}$&ndash;Wert ist demzufolge bei der Laplaceverteilung doppelt so groß wie bei der Exponentialverteilung.
+*Der&nbsp; ${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}$&ndash;Wert ist demzufolge bei der Laplaceverteilung doppelt so groß wie bei der Exponentialverteilung.
-*Damit ist offensichtlich, dass die Laplaceverteilung hinsichtlich der differentiellen Entropie deutlich besser ist als die Exponentialverteilung, wenn man von leistungsbegrenzten Signalen ausgeht.
+*Die Laplaceverteilung ist also bezüglich der differentiellen Entropie besser als die Exponentialverteilung, wenn man von leistungsbegrenzten Signalen ausgeht.
-*Unter der Nebenbedingung der Spitzenwertbegrenzung sind sowohl die Exponential&ndash; als auch die Laplaceverteilung völlig ungeeignet, ebenso wie die Gaußverteilung. Diese reichen alle bis ins Unendliche.
+*Unter der Nebenbedingung der Spitzenwertbegrenzung sind sowohl die Exponential&ndash; als auch die Laplaceverteilung völlig ungeeignet, ebenso wie die Gaußverteilung.&nbsp; Diese reichen alle bis ins Unendliche.
 {{ML-Fuß}}

@@ Zeile 5: / Zeile 5: @@
 [[Datei:P_ID2875__Inf_Z_4_3.png|right|frame|WDF von Exponentialverteilung  und Laplaceverteilung (unten)]]
 Wir betrachten hier die Wahrscheinlichkeitsdichtefunktionen (WDF) zweier wertkontinuierlicher Zufallsgrößen:
-* Die Zufallsgröße $X$ ist exponentialverteilt (siehe obere Darstellung): &nbsp; Für $x<0$  ist $f_X(x) = 0$, und für positive $x$&ndash;Werte gilt:
+* Die Zufallsgröße&nbsp; $X$&nbsp; ist exponentialverteilt (siehe obere Darstellung): &nbsp; Für&nbsp; $x<0$&nbsp;  ist&nbsp; $f_X(x) = 0$,&nbsp; und für positive $x$&ndash;Werte gilt:
 :$$f_X(x) =  \lambda \cdot {\rm e}^{-\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}x}\hspace{0.05cm}. $$
-* Dagegen gilt für die laplaceverteilte Zufallsgröße $Y$ im gesamten Bereich$ - \infty < y < + \infty$  (untere Skizze):
+* Dagegen gilt für die laplaceverteilte Zufallsgröße&nbsp; $Y$&nbsp; im gesamten Bereich&nbsp; $ - \infty < y < + \infty$&nbsp;  (untere Skizze):
-:$$f_Y(y) =  \lambda/2 \cdot {\rm e}^{-\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}|y|}\hspace{0.05cm}.$$
+:$$f_Y(y) =  \lambda/2 \cdot {\rm e}^{-\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}|\hspace{0.05cm}y\hspace{0.05cm}|}\hspace{0.05cm}.$$
-Zu berechnen sind die differentiellen Entropien $h(X)$ und $h(Y)$ abhängig vom WDF&ndash;Parameter $\it \lambda$. Zum Beispiel gilt:
+Zu berechnen sind die differentiellen Entropien&nbsp; $h(X)$&nbsp; und&nbsp; $h(Y)$&nbsp; abhängig vom WDF&ndash;Parameter&nbsp; $\it \lambda$.&nbsp; Zum Beispiel gilt:
 :$$h(X) = -\hspace{-0.7cm}  \int\limits_{x \hspace{0.05cm}\in \hspace{0.05cm}{\rm supp}
 \hspace{0.03cm}(\hspace{-0.03cm}f_X)} \hspace{-0.55cm}  f_X(x) \cdot {\rm log} \hspace{0.1cm} \big [f_X(x) \big ] \hspace{0.1cm}{\rm d}x
 \hspace{0.05cm}.$$
-Bei Verwendung von $\log_2$ ist die Pseudo&ndash;Einheit &bdquo;bit&rdquo; anzufügen.
+Bei Verwendung von&nbsp; $\log_2$&nbsp; ist die Pseudo&ndash;Einheit &bdquo;bit&rdquo; anzufügen.
 In den Teilaufgaben '''(2)''' und '''(4)''' ist die differentielle Entropie in folgender Form anzugeben:
-:$$h(X) = {1}/{2} \cdot {\rm log} \hspace{0.1cm} ({\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(X)}  \cdot \sigma^2)
+In den Teilaufgaben&nbsp; '''(2)'''&nbsp; und&nbsp; '''(4)'''&nbsp; ist die differentielle Entropie in folgender Form anzugeben:
 \hspace{0.5cm}{\rm bzw.} \hspace{0.5cm}h(Y) = {1}/{2} \cdot {\rm log} \hspace{0.1cm} ({\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(Y)}  \cdot \sigma^2)
 \hspace{0.05cm}.$$
-Zu ermitteln ist, durch welchen Faktor ${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(X)}$ die Exponentialverteilung charakterisiert wird und welcher Faktor ${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(Y)}$ sich für die Laplaceverteilung ergibt.
+Zu ermitteln ist, durch welchen Faktor&nbsp; ${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(X)}$&nbsp; die Exponentialverteilung charakterisiert wird und welcher Faktor&nbsp; ${\it \Gamma}_{{\hspace{-0.01cm} \rm L}}^{\hspace{0.08cm}(Y)}$&nbsp; sich für die Laplaceverteilung ergibt.
@@ Zeile 38: / Zeile 42: @@
 <quiz display=simple>
-{Berechnen Sie die differentielle Entropie der Exponentialverteilung für $\lambda = 1$.
+{Berechnen Sie die differentielle Entropie der Exponentialverteilung für&nbsp; $\lambda = 1$.
 |type="{}"}
 $h(X) \ = \ $ { 1.443 3% } $\ \rm bit$
-{Welche Kenngröße &nbsp;${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(X)}$&nbsp; ergibt sich für die Exponentialverteilung entsprechend der Form &nbsp;$h(X) = {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} ({\it \Gamma}_{\hspace{-0.05cm} \rm L}^{\hspace{0.08cm}(X)} \cdot \sigma^2)$ ?
+{Welche Kenngröße&nbsp; &nbsp;${\it \Gamma}_{{\hspace{-0.01cm} \rm L}}^{\hspace{0.08cm}(X)}$&nbsp; ergibt sich für die Exponentialverteilung entsprechend der Form &nbsp;$h(X) = {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} ({\it \Gamma}_{\hspace{-0.05cm} \rm L}^{\hspace{0.08cm}(X)} \cdot \sigma^2)$ ?
 |type="{}"}
-${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(X)}  \ = \ $ { 7.39 3% }
+${\it \Gamma}_{{\hspace{-0.01cm} \rm L}}^{\hspace{0.08cm}(X)}  \ = \ $ { 7.39 3% }
-{Berechnen Sie die differentielle Entropie der Laplaceverteilung  für $\lambda = 1$.
+{Berechnen Sie die differentielle Entropie der Laplaceverteilung  für&nbsp; $\lambda = 1$.
 |type="{}"}
 $h(Y) \ = \ $ { 2.443 3% } $\ \rm bit$
-{Welche Kenngröße &nbsp;${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(Y)} $&nbsp; ergibt sich für die Laplaceverteilung entsprechend der Form &nbsp;$h(Y) = {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} ({\it \Gamma}_{\hspace{-0.05cm} \rm L}^{\hspace{0.08cm}(Y)} \cdot \sigma^2)$?
+{Welche Kenngröße &nbsp;${\it \Gamma}_{{\hspace{-0.01cm} \rm L}}^{\hspace{0.08cm}(Y)} $&nbsp; ergibt sich für die Laplaceverteilung entsprechend der Form &nbsp;$h(Y) = {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} ({\it \Gamma}_{\hspace{-0.05cm} \rm L}^{\hspace{0.08cm}(Y)} \cdot \sigma^2)$?
 |type="{}"}
-${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(Y)} \ = \ $ { 14.78 3% }
+${\it \Gamma}_{{\hspace{-0.01cm} \rm L}}^{\hspace{0.08cm}(Y)} \ = \ $ { 14.78 3% }

@@ Zeile 136: / Zeile 136: @@
-'''(4)'''&nbsp; Bei der Laplaceverteilung gilt der Zusammenhang <i>&sigma;</i><sup>2</sup> = 2/<i>&lambda;</i><sup>2</sup>. Damit erhält man:
+'''(4)'''&nbsp; Bei der Laplaceverteilung gilt der Zusammenhang $\sigma^2 = 2/\lambda^2$. Damit erhält man:
-$$h(X) =  {\rm log}_2 \hspace{0.1cm} (\frac{2{\rm e}}{\lambda}) =
+:$$h(X) =  {\rm log}_2 \hspace{0.1cm} (\frac{2{\rm e}}{\lambda}) =
 {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} (\frac{4{\rm e}^2}{\lambda^2})
+=
-{1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} (2 {\rm e}^2 \cdot \sigma^2) \hspace{0.3cm} \Rightarrow \hspace{0.3cm} {\it \Gamma}_{{\hspace{-0.05cm} \rm L}, \hspace{0.05cm}(Y)}  = 2 \cdot {\rm e}^2 \hspace{0.15cm}\underline{\approx 14.78}
+{1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} (2 {\rm e}^2 \cdot \sigma^2) \hspace{0.3cm} \Rightarrow \hspace{0.3cm} {\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(Y)}   = 2 \cdot {\rm e}^2 \hspace{0.15cm}\underline{\approx 14.78}
 \hspace{0.05cm}.$$
-Der <i>&Gamma;</i><sub>L</sub>&ndash;Wert ist bei der Laplaceverteilung doppelt so groß wie bei der Exponentialverteilung.
+*Der ${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}$&ndash;Wert ist demzufolge bei der Laplaceverteilung doppelt so groß wie bei der Exponentialverteilung.
-*Damit ist offensichtlich, dass die Laplaceverteilung hinsichtlich der differentiellen Entropie <i>h</i>(<i>X</i>) deutlich besser ist als die Exponentialverteilung, wenn man von leistungsbegrenzten Signalen ausgeht.
+*Damit ist offensichtlich, dass die Laplaceverteilung hinsichtlich der differentiellen Entropie deutlich besser ist als die Exponentialverteilung, wenn man von leistungsbegrenzten Signalen ausgeht.
 *Unter der Nebenbedingung der Spitzenwertbegrenzung sind sowohl die Exponential&ndash; als auch die Laplaceverteilung völlig ungeeignet, ebenso wie die Gaußverteilung. Diese reichen alle bis ins Unendliche.

@@ Zeile 62: / Zeile 62: @@
 ===Musterlösung===
 {{ML-Kopf}}
-'''(1)'''&nbsp; Obwohl in dieser Aufgabe das Ergebnis in &bdquo;bit&rdquo; angegeben werden soll, verwenden wir zur Herleitung den natürlichen Logarithmus. Dann gilt für die differentielle Entropie:
+'''(1)'''&nbsp; Obwohl in dieser Aufgabe das Ergebnis in &bdquo;bit&rdquo; angegeben werden soll, verwenden wir zur Herleitung den natürlichen Logarithmus.
 :$$h(X) = -\hspace{-0.7cm}  \int\limits_{x \hspace{0.05cm}\in \hspace{0.05cm}{\rm supp}
 \hspace{0.03cm}(\hspace{-0.03cm}f_X)} \hspace{-0.35cm}  f_X(x) \cdot {\rm ln} \hspace{0.1cm} [f_X(x)] \hspace{0.1cm}{\rm d}x
 \hspace{0.05cm}.$$
-Für die Exponentialverteilung sind die Integrationsgrenzen 0 und +&#8734; anzusetzen. In diesem Bereich wird die auf dem Angabenblatt angegebene WDF <i>f<sub>X</sub></i>(<i>x</i>) eingesetzt:
+*Für die Exponentialverteilung sind die Integrationsgrenzen $0$ und $+&#8734;$ anzusetzen. In diesem Bereich wird die auf dem Angabenblatt angegebene WDF $f_X(x)$ eingesetzt:
 :$$h(X) =-  \int_{0}^{\infty} \hspace{-0.15cm}
 \lambda \cdot {\rm e}^{-\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}x}
@@ Zeile 77: / Zeile 79: @@
 \hspace{0.05cm}.$$
 Man erkennt:
-* Der erste Integrand ist identisch mit der hier betrachteten WDF <i>f<sub>X</sub></i>(<i>x</i>). Das Integral über den gesamten Integrationsbereich ergibt somit 1.
+* Der erste Integrand ist identisch mit der hier betrachteten WDF $f_X(x)$. Das Integral über den gesamten Integrationsbereich ergibt somit $1$.
-* Das zweite Integral entspricht genau der Definition des Mittelwertes <i>m</i><sub>1</sub> (Moment erster Ordnung). Für die Exponentialverteilung gilt <i>m</i><sub>1</sub> = 1/<i>&lambda;</i>. Daraus folgt:
+* Das zweite Integral entspricht genau der Definition des Mittelwertes $m_1$ (Moment erster Ordnung). Für die Exponentialverteilung gilt $m_1 = 1/&lambda;$ Daraus folgt:
 :$$h(X) = - \hspace{0.05cm} {\rm ln} \hspace{0.1cm} (\lambda) + 1 =
 - \hspace{0.05cm} {\rm ln} \hspace{0.1cm} (\lambda) + \hspace{0.05cm} {\rm ln} \hspace{0.1cm} ({\rm e}) = {\rm ln} \hspace{0.1cm} ({\rm e}/\lambda)
 \hspace{0.05cm}.$$
-Dieses Ergebnis ist mit der Zusatzeinheit &bdquo;nat&rdquo; zu versehen. Mit &bdquo;log<sub>2</sub>&rdquo; anstelle von &bdquo;ln&rdquo; erhält man die differentielle Entropie in &bdquo;bit&rdquo;:
+*Dieses Ergebnis ist mit der Zusatzeinheit &bdquo;nat&rdquo; zu versehen. Mit $\log_2$ anstelle von $\ln$ erhält man die differentielle Entropie in &bdquo;bit&rdquo;:
 :$$h(X) =  {\rm log}_2 \hspace{0.1cm} ({\rm e}/\lambda)
 \hspace{0.3cm} \Rightarrow \hspace{0.3cm} \lambda = 1{\rm :}
@@ Zeile 89: / Zeile 91: @@
 \hspace{0.05cm}.$$
-'''(2)'''&nbsp; Unter Berücksichtigung der für die Exponentialverteilung gültigen Gleichung <i>&sigma;</i><sup>2</sup> = 1/<i>&lambda;</i><sup>2</sup> kann man das in der Teilaufgabe (1) gefundene Ergebnis wie folgt umformen:
 : $$h(X) =  {\rm log}_2 \hspace{0.1cm} ({\rm e}/\lambda) =
 {1}/{2}\cdot {\rm log}_2 \hspace{0.1cm} ({\rm e}^2/\lambda^2)
@@ Zeile 95: / Zeile 98: @@
 {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} ({\rm e}^2 \cdot \sigma^2)
 \hspace{0.05cm}.$$
-Ein Vergleich mit der geforderten Grundform 1/2 &middot; log<sub>2</sub> (<i>&Gamma;</i><sub>L</sub> &middot; <i>&sigma;</i><sup>2</sup>) führt zum Ergebnis:
+Ein Vergleich mit der geforderten Grundform &nbsp;$h(X) = {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} ({\it \Gamma}_{\hspace{-0.05cm} \rm L}^{\hspace{0.08cm}(X)} \cdot \sigma^2)$ führt zum Ergebnis:
-$${\it \Gamma}_{{\hspace{-0.05cm} \rm L}, \hspace{0.05cm}(X)}  = {\rm e}^2 \hspace{0.15cm}\underline{\approx 7.39}
+:$${\it \Gamma}_{{\hspace{-0.05cm} \rm L}}^{\hspace{0.08cm}(X)}  = {\rm e}^2 \hspace{0.15cm}\underline{\approx 7.39}
 \hspace{0.05cm}.$$
 '''(3)'''&nbsp; Bei der Laplaceverteilung unterteilen wir den Integrationsbereich in zwei Teilbereiche:
-* <i>Y</i> negativ &nbsp;&#8658;&nbsp; Anteil <i>h</i><sub>neg</sub>(<i>Y</i>),
+* $Y$ negativ &nbsp; &#8658; &nbsp; Anteil $h_{\rm neg}(Y)$,
-* <i>Y</i> positiv &nbsp;&#8658;&nbsp; Anteil <i>h</i><sub>pos</sub>(<i>Y</i>).
+* $Y$ positiv &nbsp; &#8658; &nbsp; Anteil $h_{\rm pos}(Y)$.
-Die gesamte differentielle Entropie ergibt sich unter Berücksichtigung von <i>h</i><sub>neg</sub>(<i>Y</i>) = <i>h</i><sub>pos</sub>(<i>Y</i>) zu
+Die gesamte differentielle Entropie ergibt sich unter Berücksichtigung von $h_{\rm neg}(Y) = h_{\rm pos}(Y)$ zu
 :$$h(Y) =  h_{\rm neg}(Y) + h_{\rm pos}(Y) = 2 \cdot h_{\rm pos}(Y) $$
 :$$\Rightarrow \hspace{0.3cm} h(Y) = -  2 \cdot \int_{0}^{\infty} \hspace{-0.15cm}
@@ Zeile 116: / Zeile 120: @@
 Berücksichtigen wir wiederum, dass
-* das erste Integral den Wert 1 ergibt (WDF&ndash;Fläche), und
+* das erste Integral den Wert $1$ ergibt (WDF&ndash;Fläche), und
-* das zweite Integral den Mittelwert <i>m</i><sub>1</sub> = 1/<i>&lambda;</i> angibt,
+* das zweite Integral den Mittelwert $m_1 = 1/\lambda$ angibt,
 so erhalten wir:
-$$h(Y) = - \hspace{0.05cm} {\rm ln} \hspace{0.1cm} (\lambda/2) + 1 =
+:$$h(Y) = - \hspace{0.05cm} {\rm ln} \hspace{0.1cm} (\lambda/2) + 1 =
 - \hspace{0.05cm} {\rm ln} \hspace{0.1cm} (\lambda/2) + \hspace{0.05cm} {\rm ln} \hspace{0.1cm} ({\rm e}) = {\rm ln} \hspace{0.1cm} (2{\rm e}/\lambda)
 \hspace{0.05cm}.$$
-Da das Ergebnis in &bdquo;bit&rdquo; gefordert ist, muss noch &bdquo;ln&rdquo; durch &bdquo;log<sub>2</sub>&rdquo; ersetzt werden:
+Da das Ergebnis in &bdquo;bit&rdquo; gefordert ist, muss noch $\ln$ durch $\log_2$ ersetzt werden:
-$$h(Y) =  {\rm log}_2 \hspace{0.1cm} (2{\rm e}/\lambda)
+:$$h(Y) =  {\rm log}_2 \hspace{0.1cm} (2{\rm e}/\lambda)
 \hspace{0.3cm} \Rightarrow \hspace{0.3cm} \lambda = 1{\rm :}
 \hspace{0.3cm} h(Y) =  {\rm log}_2 \hspace{0.1cm} (2{\rm e})
 \hspace{0.15cm}\underline{= 2.443\,{\rm bit}}
 \hspace{0.05cm}.$$
 '''(4)'''&nbsp; Bei der Laplaceverteilung gilt der Zusammenhang <i>&sigma;</i><sup>2</sup> = 2/<i>&lambda;</i><sup>2</sup>. Damit erhält man:

@@ Zeile 28: / Zeile 28: @@
 *Für die Varianz der exponentialverteiten Zufallsgröße $X$ gilt, wie in der [[Aufgaben:4.01Z_Momentenberechnung|Zusatzaufgabe 4.1Z]] hergeleitet: &nbsp; $\sigma^2 = 1/\lambda^2$.
 *Die Varianz der laplaceverteiten Zufallsgröße $Y$ ist bei gleichem $\it \lambda$ doppelt so groß: &nbsp; $\sigma^2 = 2/\lambda^2$.
-*Sollte die Eingabe des Zahlenwertes &bdquo;0&rdquo; erforderlich sein, so geben Sie bitte &bdquo;0.&rdquo; ein.

← Nächstältere Version	Version vom 3. Januar 2018, 14:10 Uhr
(kein Unterschied)

@@ Zeile 3: / Zeile 3: @@
 }}
-[[Datei:P_ID2875__Inf_Z_4_3.png|right|]]
+[[Datei:P_ID2875__Inf_Z_4_3.png|right|frame|WDF&ndash;Darstellung von Exponential– und Laplaceverteilung]]
 Wir betrachten hier die Wahrscheinlichkeitsdichtefunktionen (WDF) zweier wertkontinuierlicher Zufallsgrößen:
-:* <i>X</i> ist exponentialverteilt (siehe obere Darstellung): Für <i>x</i>&nbsp;<&nbsp;0 ist <i>f<sub>X</sub></i>(<i>x</i>) = 0, und für positive <i>x</i>&ndash;Werte gilt:
+* Die Zufallsgröße $X$ ist exponentialverteilt (siehe obere Darstellung): Für $x<0$  ist $f_X(x) = 0$, und für positive $x$&ndash;Werte gilt:
-$$f_X(x) =  \lambda \cdot {\rm e}^{-\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}x}\hspace{0.05cm}. $$
+:$$f_X(x) =  \lambda \cdot {\rm e}^{-\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}x}\hspace{0.05cm}. $$
-:* Dagegen gilt für die laplaceverteilte Zufallsgröße <i>Y</i> im gesamten Bereich &ndash;&#8734; < <i>y</i> < +&#8734;  (untere Skizze):
+* Dagegen gilt für die laplaceverteilte Zufallsgröße $Y$ im gesamten Bereich$ - \infty < y < + \infty$  (untere Skizze):
-$$f_Y(y) =  \lambda/2 \cdot {\rm e}^{-\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}|y|}\hspace{0.05cm}.$$
+:$$f_Y(y) =  \lambda/2 \cdot {\rm e}^{-\lambda \hspace{0.05cm}\cdot \hspace{0.05cm}|y|}\hspace{0.05cm}.$$
-Zu berechnen sind die differentiellen Entropien <i>h</i>(<i>X</i>) und <i>h</i>(<i>Y</i>) abhängig vom WDF&ndash;Parameter <i>&lambda;</i>. Zum Beispiel gilt:
-$$h(X) = -\hspace{-0.7cm}  \int\limits_{x \hspace{0.05cm}\in \hspace{0.05cm}{\rm supp}
+Zu berechnen sind die differentiellen Entropien $h(X)$ und $h(Y)$ abhängig vom WDF&ndash;Parameter $\it \lambda$. Zum Beispiel gilt:
 \hspace{0.03cm}(\hspace{-0.03cm}f_X)} \hspace{-0.55cm}  f_X(x) \cdot {\rm log}_2 \hspace{0.1cm} [f_X(x)] \hspace{0.1cm}{\rm d}x
 \hspace{0.05cm}.$$
 Bei Verwendung von &bdquo;log<sub>2</sub>&rdquo; ist die Pseudo&ndash;Einheit &bdquo;bit&rdquo; anzufügen.
-In den Teilaufgaben (b) und (d) ist die differentielle Entropie in folgender Form anzugeben:
+In den Teilaufgaben (2) und (4) ist die differentielle Entropie in folgender Form anzugeben:
-$$h(X) = {1}/{2} \cdot {\rm log} \hspace{0.1cm} ({\it \Gamma}_{\hspace{-0.05cm} \rm L} \cdot \sigma^2)
+$$h(X) = {1}/{2} \cdot {\rm log} \hspace{0.1cm} ({\it \Gamma}_{{\hspace{-0.05cm} \rm L}, \hspace{0.05cm}(X)} \cdot \sigma^2)
-\hspace{0.5cm}{\rm bzw.} \hspace{0.5cm}h(Y) = {1}/{2} \cdot {\rm log} \hspace{0.1cm} ({\it \Gamma}_{\hspace{-0.05cm} \rm L} \cdot \sigma^2)
+\hspace{0.5cm}{\rm bzw.} \hspace{0.5cm}h(Y) = {1}/{2} \cdot {\rm log} \hspace{0.1cm} ({\it \Gamma}_{{\hspace{-0.05cm} \rm L}, \hspace{0.05cm}(Y)}  \cdot \sigma^2)
 \hspace{0.05cm}.$$
-Zu ermitteln ist, durch welche Faktoren <i>&Gamma;</i><sub>L</sub> die Exponentialverteilung und die Laplaceverteilung charakterisiert werden.
+Zu ermitteln ist, durch welchen Faktor ${\it \Gamma}_{{\hspace{-0.05cm} \rm L}, \hspace{0.05cm}(X)}$ die Exponentialverteilung charakterisiert wird und welcher Faktor ${\it \Gamma}_{{\hspace{-0.05cm} \rm L}, \hspace{0.05cm}(Y)}$ sich für die Laplaceverteilung ergibt.
 ===Fragebogen===
 <quiz display=simple>
-{Berechnen Sie die differentielle Entropie der Exponentialverteilung.
+{Berechnen Sie die differentielle Entropie der Exponentialverteilung für $\lambda = 1$.
 |type="{}"}
-$λ = 1:   h(X) $ = { 1.443 3% }
+$h(X) \ = \ $ { 1.443 3% }
-{Welche Kenngröße ergibt sich für die Form <i>h</i>(<i>X</i>) = 1/2 &middot; log<sub>2</sub> (<i>&Gamma;</i><sub>L</sub> &middot; <i>&sigma;</i><sup>2</sup>)?
+{Welche Kenngröße ${\it \Gamma}_{\hspace{-0.05cm} \rm L} $ ergibt sich für die Exponentialverteilung entsprechend der Form $h(X) = {1}/{2} \cdot {\rm log}_2 \hspace{0.1cm} ({\it \Gamma}_{\hspace{-0.05cm} \rm L} \cdot \sigma^2)$ ?
 |type="{}"}
-$Exponentialverteilung:   ΓL$ = { 7.39 3% }
+${\it \Gamma}_{{\hspace{-0.05cm} \rm L}, \hspace{0.05cm}(X)}  \ = \ $ { 7.39 3% }
-{Berechnen Sie die differentielle Entropie der Laplaceverteilung.
+{Berechnen Sie die differentielle Entropie der Laplaceverteilung  für $\lambda = 1$.
 |type="{}"}
-$ λ = 1:    h(Y) $ = { 2.443 3% }
+$h(Y) \ = \ $ { 2.443 3% }
-{Welche Kenngröße ergibt sich für die Form <i>h</i>(<i>Y</i>) = 1/2 &middot; log<sub>2</sub> (<i>&Gamma;</i><sub>L</sub> &middot; <i>&sigma;</i><sup>2</sup>)?
+{Welche Kenngröße ${\it \Gamma}_{\hspace{-0.05cm} \rm L} $ ergibt sich für die Laplaceverteilung?
 |type="{}"}
-$Laplaceverteilung:   ΓL$ = { 14.78 3% }
+${\it \Gamma}_{{\hspace{-0.05cm} \rm L}, \hspace{0.05cm}(Y)} \ = \ $ { 14.78 3% }