Aufgaben:Aufgabe 4.2Z: Gemischte Zufallsgrößen - Versionsgeschichte

Maintenance script: Add English interlanguage link

2026-03-16T12:37:33Z

Add English interlanguage link

← Nächstältere Version		Version vom 16. März 2026, 14:37 Uhr
Zeile 115:		Zeile 115:

	[[Category:Aufgaben zu Informationstheorie\|^4.1 Differentielle Entropie^]]		[[Category:Aufgaben zu Informationstheorie\|^4.1 Differentielle Entropie^]]
			[[en:Aufgaben:Exercise_4.2Z:_Mixed_Random_Variables]]

Maintenance script: Join multi-line formulas for MW 1.43 parser compat

2026-02-24T13:39:50Z

Join multi-line formulas for MW 1.43 parser compat

← Nächstältere Version		Version vom 24. Februar 2026, 15:39 Uhr
Zeile 11:		Zeile 11:

	*In der Teilaufgabe  '''(4)'''  soll die differentielle Entropie  $h(Y)$  der Zufallsgröße  $Y$  ermittelt werden (in bit), wobei von folgender Gleichung auszugehen ist:		*In der Teilaufgabe  '''(4)'''  soll die differentielle Entropie  $h(Y)$  der Zufallsgröße  $Y$  ermittelt werden (in bit), wobei von folgender Gleichung auszugehen ist:
	:$$h(Y) =		:$$h(Y) = \hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}\hspace{0.03cm}(\hspace{-0.03cm}f_Y)} \hspace{-0.35cm} f_Y(y) \cdot {\rm log}_2 \hspace{0.1cm} \big[ f_Y(y) \big] \hspace{0.1cm}{\rm d}y \hspace{0.05cm}.$$
	\hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}\hspace{0.03cm}(\hspace{-0.03cm}f_Y)} \hspace{-0.35cm} f_Y(y) \cdot {\rm log}_2 \hspace{0.1cm} \big[ f_Y(y) \big] \hspace{0.1cm}{\rm d}y
	\hspace{0.05cm}.$$

	*In der Teilaufgabe  '''(2)'''  ist die differentielle Entropie  $h(X)$  der Zufallsgröße  $X$  zu berechnen, deren WDF  $f_X(x)$  oben skizziert ist.  Führt man einen geeigneten Grenzübergang durch, so wird auch aus der Zufallsgröße  $X$  eine gemischte Zufallsgröße.		*In der Teilaufgabe  '''(2)'''  ist die differentielle Entropie  $h(X)$  der Zufallsgröße  $X$  zu berechnen, deren WDF  $f_X(x)$  oben skizziert ist.  Führt man einen geeigneten Grenzübergang durch, so wird auch aus der Zufallsgröße  $X$  eine gemischte Zufallsgröße.
Zeile 68:		Zeile 66:
	{{ML-Kopf}}		{{ML-Kopf}}
	'''(1)'''  Richtig ist der <u>Lösungsvorschlag 2</u>, weil das Integral über die WDF  $1$  ergeben muss:		'''(1)'''  Richtig ist der <u>Lösungsvorschlag 2</u>, weil das Integral über die WDF  $1$  ergeben muss:
	:$$f_X(x) \hspace{0.1cm}{\rm d}x =		:$$f_X(x) \hspace{0.1cm}{\rm d}x =0.25 \cdot 2 + (A - 0.25) \cdot \varepsilon \stackrel{!}{=} 1 \hspace{0.3cm}\Rightarrow\hspace{0.3cm}(A - 0.25) \cdot \varepsilon \stackrel{!}{=} 0.5\hspace{0.3cm}\Rightarrow\hspace{0.3cm} A = 0.5/\varepsilon +0.25\hspace{0.05cm}.$$
	0.25 \cdot 2 + (A - 0.25) \cdot \varepsilon \stackrel{!}{=} 1 \hspace{0.3cm}
	\Rightarrow\hspace{0.3cm}(A - 0.25) \cdot \varepsilon \stackrel{!}{=} 0.5
	\hspace{0.3cm}\Rightarrow\hspace{0.3cm} A = 0.5/\varepsilon +0.25\hspace{0.05cm}.$$



	'''(2)'''  Die differentielle Entropie (in &bdquo;bit”) ist wie folgt gegeben:		'''(2)'''  Die differentielle Entropie (in &bdquo;bit”) ist wie folgt gegeben:
	:$$h(X) =		:$$h(X) = \hspace{0.1cm} \hspace{-0.45cm} \int\limits_{{\rm supp}(f_X)} \hspace{-0.35cm} f_X(x) \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{f_X(x)} \hspace{0.1cm}{\rm d}x \hspace{0.05cm}.$$
	\hspace{0.1cm} \hspace{-0.45cm} \int\limits_{{\rm supp}(f_X)} \hspace{-0.35cm} f_X(x) \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{f_X(x)} \hspace{0.1cm}{\rm d}x
	\hspace{0.05cm}.$$
	Wir unterteilen nun das Integral in drei Teilintegrale:		Wir unterteilen nun das Integral in drei Teilintegrale:
	:$$h(X) =		:$$h(X) = \hspace{-0.25cm} \int\limits_{0}^{1-\varepsilon/2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x +\hspace{-0.25cm}\int\limits_{1+\varepsilon/2}^{2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x + \hspace{-0.25cm}\int\limits_{1-\varepsilon/2}^{1+\varepsilon/2} \hspace{-0.15cm} \big [0.5/\varepsilon + 0.25 \big ] \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.5/\varepsilon + 0.25} \hspace{0.1cm}{\rm d}x $$
	\hspace{-0.25cm} \int\limits_{0}^{1-\varepsilon/2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x +		:$$ \Rightarrow \hspace{0.3cm} h(X) = 2 \cdot 0.25 \cdot 2 \cdot (2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)\hspace{0.05cm}.$$
	\hspace{-0.25cm}\int\limits_{1+\varepsilon/2}^{2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x
	+ \hspace{-0.25cm}\int\limits_{1-\varepsilon/2}^{1+\varepsilon/2} \hspace{-0.15cm} \big [0.5/\varepsilon + 0.25 \big ] \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.5/\varepsilon + 0.25} \hspace{0.1cm}{\rm d}x $$
	:$$ \Rightarrow \hspace{0.3cm} h(X) = 2 \cdot 0.25 \cdot 2 \cdot (2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)
	\hspace{0.05cm}.$$
	Insbesondere erhält man		Insbesondere erhält man
	* für  $\varepsilon = 0.1$:		* für  $\varepsilon = 0.1$:
	:$$h(X) =1.9 - 0.525 \cdot {\rm log}_2 \hspace{0.1cm}(5.25) = 1.9 - 1.256		:$$h(X) =1.9 - 0.525 \cdot {\rm log}_2 \hspace{0.1cm}(5.25) = 1.9 - 1.256\hspace{0.15cm}\underline{= 0.644\,{\rm bit}}\hspace{0.05cm},$$
	\hspace{0.15cm}\underline{= 0.644\,{\rm bit}}
	\hspace{0.05cm},$$
	* für  $\varepsilon = 0.01$:		* für  $\varepsilon = 0.01$:
	:$$h(X) =1.99 - 0.5025 \cdot {\rm log}_2 \hspace{0.1cm}(50.25)= 1.99 - 2.84		:$$h(X) =1.99 - 0.5025 \cdot {\rm log}_2 \hspace{0.1cm}(50.25)= 1.99 - 2.84 \hspace{0.15cm}\underline{= -0.850\,{\rm bit}}\hspace{0.05cm}$$
	\hspace{0.15cm}\underline{= -0.850\,{\rm bit}}
	\hspace{0.05cm}$$
	* für  $\varepsilon = 0.001$:		* für  $\varepsilon = 0.001$:
	:$$h(X) =1.999 - 0.50025 \cdot {\rm log}_2 \hspace{0.1cm}(500.25) = 1.999 - 8.967		:$$h(X) =1.999 - 0.50025 \cdot {\rm log}_2 \hspace{0.1cm}(500.25) = 1.999 - 8.967\hspace{0.15cm}\underline{= -6.968\,{\rm bit}}\hspace{0.05cm}.$$
	\hspace{0.15cm}\underline{= -6.968\,{\rm bit}}
	\hspace{0.05cm}.$$


	'''(3)'''  <u>Alle Lösungsvorschläge</u> sind zutreffend:		'''(3)'''  <u>Alle Lösungsvorschläge</u> sind zutreffend:
	*Nach dem Grenzübergang   $\varepsilon → 0$   erhält man für die differentielle Entropie		*Nach dem Grenzübergang   $\varepsilon → 0$   erhält man für die differentielle Entropie
	:$$h(X) = \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0} \hspace{0.1cm}\big[(2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)\big]		:$$h(X) = \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0} \hspace{0.1cm}\big[(2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)\big] = 2\,{\rm bit} - 0.5 \cdot \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0}\hspace{0.1cm}{\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon)\hspace{0.3cm}\Rightarrow\hspace{0.3cm} - \infty\hspace{0.05cm}.$$
	= 2\,{\rm bit} - 0.5 \cdot \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0}\hspace{0.1cm}{\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon)
	\hspace{0.3cm}\Rightarrow\hspace{0.3cm} - \infty
	\hspace{0.05cm}.$$
	[[Datei:P_ID2871__Inf_Z_4_2c_neu.png\|right\|frame\|WDF und VTF der gemischten Zufallsgröße  $X$]]		[[Datei:P_ID2871__Inf_Z_4_2c_neu.png\|right\|frame\|WDF und VTF der gemischten Zufallsgröße  $X$]]
	*Die Wahrscheinlichkeitsdichtefunktion (WDF) ergibt sich in diesem Fall zu		*Die Wahrscheinlichkeitsdichtefunktion (WDF) ergibt sich in diesem Fall zu
	:$$f_X(x) = \left\{ \begin{array}{c} 0.25 + 0.5 \cdot \delta (x-1) \\ 0 \\ \end{array} \right. \begin{array}{*{20}c} {\rm{f\ddot{u}r}} \hspace{0.1cm} 0 \le x \le 2, \\ {\rm sonst} \\ \end{array}		:$$f_X(x) = \left\{ \begin{array}{c} 0.25 + 0.5 \cdot \delta (x-1) \\ 0 \\ \end{array} \right. \begin{array}{*{20}c} {\rm{f\ddot{u}r}} \hspace{0.1cm} 0 \le x \le 2, \\ {\rm sonst} \\ \end{array}\hspace{0.05cm}.$$
	\hspace{0.05cm}.$$
	Es handelt sich demzufolge um eine &bdquo;gemischte” Zufallsgröße mit		Es handelt sich demzufolge um eine &bdquo;gemischte” Zufallsgröße mit
	* einem stochastischen, gleichverteilten Anteil im Bereich  $0 \le x \le 2$, und		* einem stochastischen, gleichverteilten Anteil im Bereich  $0 \le x \le 2$, und

Guenter am 10. Februar 2020 um 16:38 Uhr

2020-02-10T16:38:13Z

← Nächstältere Version		Version vom 10. Februar 2020, 18:38 Uhr
Zeile 67:		Zeile 67:
	===Musterlösung===		===Musterlösung===
	{{ML-Kopf}}		{{ML-Kopf}}
	'''(1)'''  Richtig ist der <u>Lösungsvorschlag 2</u>, weil das Integral über die WDF $1$ ergeben muss:		'''(1)'''  Richtig ist der <u>Lösungsvorschlag 2</u>, weil das Integral über die WDF  $1$  ergeben muss:
	:$$f_X(x) \hspace{0.1cm}{\rm d}x =		:$$f_X(x) \hspace{0.1cm}{\rm d}x =
	0.25 \cdot 2 + (A - 0.25) \cdot \varepsilon \stackrel{!}{=} 1 \hspace{0.3cm}		0.25 \cdot 2 + (A - 0.25) \cdot \varepsilon \stackrel{!}{=} 1 \hspace{0.3cm}
	\Rightarrow\hspace{0.3cm}(A - 0.25) \cdot \varepsilon \stackrel{!}{=} 0.5		\Rightarrow\hspace{0.3cm}(A - 0.25) \cdot \varepsilon \stackrel{!}{=} 0.5
	\hspace{0.3cm}\Rightarrow\hspace{0.3cm} A = 0.5/\varepsilon +0.25\hspace{0.05cm}.$$		\hspace{0.3cm}\Rightarrow\hspace{0.3cm} A = 0.5/\varepsilon +0.25\hspace{0.05cm}.$$



Zeile 86:		Zeile 87:
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$
	Insbesondere erhält man		Insbesondere erhält man
	* für $\varepsilon = 0.1$:		* für  $\varepsilon = 0.1$:
	:$$h(X) =1.9 - 0.525 \cdot {\rm log}_2 \hspace{0.1cm}(5.25) = 1.9 - 1.256		:$$h(X) =1.9 - 0.525 \cdot {\rm log}_2 \hspace{0.1cm}(5.25) = 1.9 - 1.256
	\hspace{0.15cm}\underline{= 0.644\,{\rm bit}}		\hspace{0.15cm}\underline{= 0.644\,{\rm bit}}
	\hspace{0.05cm},$$		\hspace{0.05cm},$$
	* für $\varepsilon = 0.01$:		* für  $\varepsilon = 0.01$:
	:$$h(X) =1.99 - 0.5025 \cdot {\rm log}_2 \hspace{0.1cm}(50.25)= 1.99 - 2.84		:$$h(X) =1.99 - 0.5025 \cdot {\rm log}_2 \hspace{0.1cm}(50.25)= 1.99 - 2.84
	\hspace{0.15cm}\underline{= -0.850\,{\rm bit}}		\hspace{0.15cm}\underline{= -0.850\,{\rm bit}}
	\hspace{0.05cm}$$		\hspace{0.05cm}$$
	* für $\varepsilon = 0.001$:		* für  $\varepsilon = 0.001$:
	:$$h(X) =1.999 - 0.50025 \cdot {\rm log}_2 \hspace{0.1cm}(500.25) = 1.999 - 8.967		:$$h(X) =1.999 - 0.50025 \cdot {\rm log}_2 \hspace{0.1cm}(500.25) = 1.999 - 8.967
	\hspace{0.15cm}\underline{= -6.968\,{\rm bit}}		\hspace{0.15cm}\underline{= -6.968\,{\rm bit}}
Zeile 101:		Zeile 102:

	'''(3)'''  <u>Alle Lösungsvorschläge</u> sind zutreffend:		'''(3)'''  <u>Alle Lösungsvorschläge</u> sind zutreffend:
	*Nach dem Grenzübergang  $\varepsilon → 0$  erhält man für die differentielle Entropie		*Nach dem Grenzübergang   $\varepsilon → 0$   erhält man für die differentielle Entropie
	:$$h(X) = \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0} \hspace{0.1cm}[(2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)]		:$$h(X) = \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0} \hspace{0.1cm}\big[(2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)\big]
	= 2\,{\rm bit} - 0.5 \cdot \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0}\hspace{0.1cm}{\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon)		= 2\,{\rm bit} - 0.5 \cdot \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0}\hspace{0.1cm}{\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon)
	\hspace{0.3cm}\Rightarrow\hspace{0.3cm} - \infty		\hspace{0.3cm}\Rightarrow\hspace{0.3cm} - \infty
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$
	[[Datei:P_ID2871__Inf_Z_4_2c_neu.png\|right\|frame\|WDF und VTF der gemischten Zufallsgröße $X$]]		[[Datei:P_ID2871__Inf_Z_4_2c_neu.png\|right\|frame\|WDF und VTF der gemischten Zufallsgröße  $X$]]
	*Die Wahrscheinlichkeitsdichtefunktion (WDF) ergibt sich in diesem Fall zu		*Die Wahrscheinlichkeitsdichtefunktion (WDF) ergibt sich in diesem Fall zu
	:$$f_X(x) = \left\{ \begin{array}{c} 0.25 + 0.5 \cdot \delta (x-1) \\ 0 \\ \end{array} \right. \begin{array}{*{20}c} {\rm{f\ddot{u}r}} \hspace{0.1cm} 0 \le x \le 2, \\ {\rm sonst} \\ \end{array}		:$$f_X(x) = \left\{ \begin{array}{c} 0.25 + 0.5 \cdot \delta (x-1) \\ 0 \\ \end{array} \right. \begin{array}{*{20}c} {\rm{f\ddot{u}r}} \hspace{0.1cm} 0 \le x \le 2, \\ {\rm sonst} \\ \end{array}
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$
	Es handelt sich demzufolge um eine &bdquo;gemischte” Zufallsgröße mit		Es handelt sich demzufolge um eine &bdquo;gemischte” Zufallsgröße mit
	* einem stochastischen, gleichverteilten Anteil im Bereich $0 \le x \le 2$, und		* einem stochastischen, gleichverteilten Anteil im Bereich  $0 \le x \le 2$, und
	* einem diskreten Anteil bei $x = 1$ mit der Wahrscheinlichkeit $0.5$.		* einem diskreten Anteil bei  $x = 1$  mit der Wahrscheinlichkeit  $0.5$.


	Die Grafik zeigt links die WDF  $f_X(x)$  und rechts die Verteilungsfunktion  $F_X(x)$.		Die Grafik zeigt links die WDF  $f_X(x)$  und rechts die Verteilungsfunktion  $F_X(x)$.
	<br clear=all>		<br clear=all>
	'''(4)'''  Richtig sind die <u>Lösungsvorschläge 2, 3 und 5</u>. Die untere Grafik zeigt die WDF und die VTF der Zufallsgröße $Y$. Man erkennt:		'''(4)'''  Richtig sind die <u>Lösungsvorschläge 2, 3 und 5</u>.
			Die untere Grafik zeigt die WDF und die VTF der Zufallsgröße  $Y$.  Man erkennt:
	[[Datei:P_ID2872__Inf_Z_4_2d_neu.png\|right\|frame\|WDF und VTF der gemischten Zufallsgröße $Y$]]		[[Datei:P_ID2872__Inf_Z_4_2d_neu.png\|right\|frame\|WDF und VTF der gemischten Zufallsgröße $Y$]]
	* $Y$ beinhaltet wie $X$ einen kontinuierlichen und einen diskreten Anteil.		* $Y$  beinhaltet wie  $X$  einen kontinuierlichen und einen diskreten Anteil.
	* Der diskrete Anteil tritt mit der Wahrscheinlichkeit ${\rm Pr}(Y = 1) = 0.1$ auf.		* Der diskrete Anteil tritt mit der Wahrscheinlichkeit  ${\rm Pr}(Y = 1) = 0.1$ auf.
	* Da  $F_Y(y)= {\rm Pr}(Y \le y)$  gilt, ergibt sich der rechtsseitige Grenzwert:		* Da  $F_Y(y)= {\rm Pr}(Y \le y)$  gilt, ergibt sich der rechtsseitige Grenzwert:
	:$$F_Y(y = 1) = 0.55.$$		:$$F_Y(y = 1) = 0.55.$$
	* Der kontinuierliche Anteil ist nicht gleichverteilt; vielmehr liegt eine Dreieckverteilung vor.		* Der kontinuierliche Anteil ist nicht gleichverteilt;  vielmehr liegt eine Dreieckverteilung vor.
	*Richtig ist auch der letzte Vorschlag:   $h(Y) = h(X) = - \infty$.		*Richtig ist auch der letzte Vorschlag:   $h(Y) = h(X) = - \infty$.
	<br>Denn:   '''Bei jeder Zufallsgröße mit einem diskreten Anteil – und ist er auch noch so klein, ist die differentielle Entropie gleich minus unendlich'''.		<br clear=all>
			Denn:   '''Bei jeder Zufallsgröße mit einem diskreten Anteil – und ist er auch noch so klein, ist die differentielle Entropie gleich minus unendlich'''.

	{{ML-Fuß}}		{{ML-Fuß}}

Guenter am 10. Februar 2020 um 16:29 Uhr

2020-02-10T16:29:06Z

← Nächstältere Version		Version vom 10. Februar 2020, 18:29 Uhr
Zeile 3:		Zeile 3:
	}}		}}

	[[Datei:P_ID2868__Inf_Z_4_2_neu.png\|right\|frame\|WDF von $X$ und VTF von $Y$]]		[[Datei:P_ID2868__Inf_Z_4_2_neu.png\|right\|frame\|WDF von  $X$  (oben),  und <br>VTF von  $Y$  (unten)]]
	Man spricht von einer &bdquo;gemischten Zufallsgröße”, wenn die Zufallsgröße neben einem kontinuierlichen Anteil auch noch diskrete Anteile beinhaltet.		Man spricht von einer &bdquo;gemischten Zufallsgröße”, wenn die Zufallsgröße neben einem kontinuierlichen Anteil auch noch diskrete Anteile beinhaltet.

	*Die Zufallsgröße $Y$ mit der [[Stochastische_Signaltheorie/Verteilungsfunktion\|Verteilungsfunktion]] $F_Y(y)$ gemäß der unteren Skizze besitzt beispielsweise sowohl einen kontinuierlichen als auch einen diskreten Anteil.		*Die Zufallsgröße  $Y$  mit der  [[Stochastische_Signaltheorie/Verteilungsfunktion\|Verteilungsfunktion]]  $F_Y(y)$  gemäß der unteren Skizze besitzt beispielsweise sowohl einen kontinuierlichen als auch einen diskreten Anteil.
	*Die [[Stochastische_Signaltheorie/Wahrscheinlichkeitsdichtefunktion\|Wahrscheinlichkeitsdichtefunktion]] $f_Y(y)$ erhält man aus $F_Y(y)$ durch Differentiation.		*Die  [[Stochastische_Signaltheorie/Wahrscheinlichkeitsdichtefunktion\|Wahrscheinlichkeitsdichtefunktion]]  $f_Y(y)$  erhält man aus  $F_Y(y)$  durch Differentiation.
	*Aus dem Sprung bei $y= 1$ in der Verteilungsfunktion (VTF) wird somit ein &bdquo;Dirac” in der Wahrscheinlichkeitsdichtefunktion (WDF).		*Aus dem Sprung bei  $y= 1$  in der Verteilungsfunktion (VTF) wird somit ein &bdquo;Dirac” in der Wahrscheinlichkeitsdichtefunktion (WDF).

	*In der Teilaufgabe '''(4)''' soll die differentielle Entropie $h(Y)$ der Zufallsgröße $Y$ ermittelt werden (in bit), wobei von folgender Gleichung auszugehen ist:		*In der Teilaufgabe  '''(4)'''  soll die differentielle Entropie  $h(Y)$  der Zufallsgröße  $Y$  ermittelt werden (in bit), wobei von folgender Gleichung auszugehen ist:
	:$$h(Y) =		:$$h(Y) =
	\hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}\hspace{0.03cm}(\hspace{-0.03cm}f_Y)} \hspace{-0.35cm} f_Y(y) \cdot {\rm log}_2 \hspace{0.1cm} \big[ f_Y(y) \big] \hspace{0.1cm}{\rm d}y		\hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}\hspace{0.03cm}(\hspace{-0.03cm}f_Y)} \hspace{-0.35cm} f_Y(y) \cdot {\rm log}_2 \hspace{0.1cm} \big[ f_Y(y) \big] \hspace{0.1cm}{\rm d}y
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$

	*In der Teilaufgabe '''(2)''' ist die differentielle Entropie $h(X)$ der Zufallsgröße $X$ zu berechnen, deren WDF $f_X(x)$ oben skizziert ist. Führt man einen geeigneten Grenzübergang durch, so wird auch aus der Zufallsgröße $X$ eine gemischte Zufallsgröße.		*In der Teilaufgabe  '''(2)'''  ist die differentielle Entropie  $h(X)$  der Zufallsgröße  $X$  zu berechnen, deren WDF  $f_X(x)$  oben skizziert ist.  Führt man einen geeigneten Grenzübergang durch, so wird auch aus der Zufallsgröße  $X$  eine gemischte Zufallsgröße.





Zeile 31:		Zeile 34:

	<quiz display=simple>		<quiz display=simple>
	{Wie groß ist die WDF–Höhe $A$ von  $f_X(x)$  um  $x = 1$?		{Wie groß ist die WDF–Höhe  $A$  von  $f_X(x)$  um  $x = 1$?
	\|type="[]"}		\|type="[]"}
	- $A = 0.5/\varepsilon$,		- $A = 0.5/\varepsilon$,
Zeile 45:		Zeile 48:
	{Welches Ergebnis liefert der Grenzwert  $ε \to 0$?		{Welches Ergebnis liefert der Grenzwert  $ε \to 0$?
	\|type="[]"}		\|type="[]"}
	+ $f_X(x)$ hat nun einen kontinuierlichen und einen diskreten Anteil.		+ $f_X(x)$  hat nun einen kontinuierlichen und einen diskreten Anteil.
	+ Die differentielle Energie  $h(X)$  ist negativ.		+ Die differentielle Energie  $h(X)$  ist negativ.
	+ Der Betrag  $\|h(X)\|$  ist unendlich groß.		+ Der Betrag  $\|h(X)\|$  ist unendlich groß.


	{Welche Aussagen treffen für die Zufallsgröße $Y$ zu?		{Welche Aussagen treffen für die Zufallsgröße  $Y$  zu?
	\|type="[]"}		\|type="[]"}
	- Der VTF–Wert an der Stelle  $y = 1$  ist $0.5$.		- Der VTF–Wert an der Stelle  $y = 1$  ist  $0.5$.
	+ $Y$ beinhaltet einen diskreten und einen kontinuierlichen Anteil.		+ $Y$  beinhaltet einen diskreten und einen kontinuierlichen Anteil.
	+ Der diskrete Anteil bei  $Y = 1$  tritt mit  $10\%$  Wahrscheinlichkeit auf.		+ Der diskrete Anteil bei   $Y = 1$  tritt mit  $10\%$  Wahrscheinlichkeit auf.
	- Der kontinuierliche Anteil von $Y$ ist gleichverteilt.		- Der kontinuierliche Anteil von  $Y$  ist gleichverteilt.
	+ Die differentiellen Entropien von $X$ und $Y$ sind gleich.		+ Die differentiellen Entropien von  $X$  und  $Y$  sind gleich.

Guenter am 16. Oktober 2018 um 09:52 Uhr

2018-10-16T09:52:13Z

← Nächstältere Version		Version vom 16. Oktober 2018, 11:52 Uhr
Zeile 69:		Zeile 69:
	\Rightarrow\hspace{0.3cm}(A - 0.25) \cdot \varepsilon \stackrel{!}{=} 0.5		\Rightarrow\hspace{0.3cm}(A - 0.25) \cdot \varepsilon \stackrel{!}{=} 0.5
	\hspace{0.3cm}\Rightarrow\hspace{0.3cm} A = 0.5/\varepsilon +0.25\hspace{0.05cm}.$$		\hspace{0.3cm}\Rightarrow\hspace{0.3cm} A = 0.5/\varepsilon +0.25\hspace{0.05cm}.$$


	'''(2)'''  Die differentielle Entropie (in &bdquo;bit”) ist wie folgt gegeben:		'''(2)'''  Die differentielle Entropie (in &bdquo;bit”) ist wie folgt gegeben:
Zeile 78:		Zeile 79:
	\hspace{-0.25cm} \int\limits_{0}^{1-\varepsilon/2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x +		\hspace{-0.25cm} \int\limits_{0}^{1-\varepsilon/2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x +
	\hspace{-0.25cm}\int\limits_{1+\varepsilon/2}^{2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x		\hspace{-0.25cm}\int\limits_{1+\varepsilon/2}^{2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x
	+ \hspace{-0.25cm}\int\limits_{1-\varepsilon/2}^{1+\varepsilon/2} \hspace{-0.15cm} [0.5/\varepsilon + 0.25] \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.5/\varepsilon + 0.25} \hspace{0.1cm}{\rm d}x $$		+ \hspace{-0.25cm}\int\limits_{1-\varepsilon/2}^{1+\varepsilon/2} \hspace{-0.15cm} \big [0.5/\varepsilon + 0.25 \big ] \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.5/\varepsilon + 0.25} \hspace{0.1cm}{\rm d}x $$
	:$$ \Rightarrow \hspace{0.3cm} h(X) = 2 \cdot 0.25 \cdot 2 \cdot (2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)		:$$ \Rightarrow \hspace{0.3cm} h(X) = 2 \cdot 0.25 \cdot 2 \cdot (2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$
Zeile 95:		Zeile 96:
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$

	'''(3)'''  <u>Alle Lösungsvorschläge</u> sind ~~hier~~ zutreffend:
	*Nach dem Grenzübergang ~~<i>~~&~~epsilon~~;~~</i>~~ → 0 erhält man für die differentielle Entropie		'''(3)'''  <u>Alle Lösungsvorschläge</u> sind zutreffend:
			*Nach dem Grenzübergang  $\varepsilon → 0$  erhält man für die differentielle Entropie
	:$$h(X) = \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0} \hspace{0.1cm}[(2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)]		:$$h(X) = \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0} \hspace{0.1cm}[(2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)]
	= 2\,{\rm bit} - 0.5 \cdot \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0}\hspace{0.1cm}{\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon)		= 2\,{\rm bit} - 0.5 \cdot \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0}\hspace{0.1cm}{\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon)
	\hspace{0.3cm}\Rightarrow\hspace{0.3cm} - \infty		\hspace{0.3cm}\Rightarrow\hspace{0.3cm} - \infty
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$
			[[Datei:P_ID2871__Inf_Z_4_2c_neu.png\|right\|frame\|WDF und VTF der gemischten Zufallsgröße $X$]]
	*Die Wahrscheinlichkeitsdichtefunktion (WDF) ergibt sich in diesem Fall zu		*Die Wahrscheinlichkeitsdichtefunktion (WDF) ergibt sich in diesem Fall zu
	:$$f_X(x) = \left\{ \begin{array}{c} 0.25 + 0.5 \cdot \delta (x-1) \\ 0 \\ \end{array} \right. \begin{array}{*{20}c} {\rm{f\ddot{u}r}} \hspace{0.1cm} 0 \le x \le 2, \\ {\rm sonst} \\ \end{array}		:$$f_X(x) = \left\{ \begin{array}{c} 0.25 + 0.5 \cdot \delta (x-1) \\ 0 \\ \end{array} \right. \begin{array}{*{20}c} {\rm{f\ddot{u}r}} \hspace{0.1cm} 0 \le x \le 2, \\ {\rm sonst} \\ \end{array}
Zeile 108:		Zeile 111:
	* einem diskreten Anteil bei $x = 1$ mit der Wahrscheinlichkeit $0.5$.		* einem diskreten Anteil bei $x = 1$ mit der Wahrscheinlichkeit $0.5$.

	~~Die Grafik zeigt links die WDF $f_X(x)$ und rechts die Verteilungsfunktion (kurz VTF) $F_X(x)$.~~
	~~[[Datei:P_ID2871__Inf_Z_4_2c_neu.png\|center\|frame\|WDF und VTF der gemischten Zufallsgröße <i>X</i>]]~~

			Die Grafik zeigt links die WDF  $f_X(x)$  und rechts die Verteilungsfunktion  $F_X(x)$.
			<br clear=all>
	'''(4)'''  Richtig sind die <u>Lösungsvorschläge 2, 3 und 5</u>. Die untere Grafik zeigt die WDF und die VTF der Zufallsgröße $Y$. Man erkennt:		'''(4)'''  Richtig sind die <u>Lösungsvorschläge 2, 3 und 5</u>. Die untere Grafik zeigt die WDF und die VTF der Zufallsgröße $Y$. Man erkennt:
	* $Y$ beinhaltet wie $X$ ~~sowohl~~ einen kontinuierlichen ~~als auch~~ einen diskreten Anteil.		[[Datei:P_ID2872__Inf_Z_4_2d_neu.png\|right\|frame\|WDF und VTF der gemischten Zufallsgröße $Y$]]
			* $Y$ beinhaltet wie $X$ einen kontinuierlichen und einen diskreten Anteil.
	* Der diskrete Anteil tritt mit der Wahrscheinlichkeit ${\rm Pr}(Y = 1) = 0.1$ auf.		* Der diskrete Anteil tritt mit der Wahrscheinlichkeit ${\rm Pr}(Y = 1) = 0.1$ auf.
	* Da $F_Y(y)= ~~Pr(~~{\rm Pr}(Y \le y)$ gilt, ergibt sich der rechtsseitige Grenzwert: ~~ ~~ $F_Y(y = 1) = 0.55$.		* Da  $F_Y(y)= {\rm Pr}(Y \le y)$  gilt, ergibt sich der rechtsseitige Grenzwert:
			:$$F_Y(y = 1) = 0.55.$$
	* Der kontinuierliche Anteil ist nicht gleichverteilt; vielmehr liegt eine Dreieckverteilung vor.		* Der kontinuierliche Anteil ist nicht gleichverteilt; vielmehr liegt eine Dreieckverteilung vor.
	~~[[Datei:P_ID2872__Inf_Z_4_2d_neu.png\|center\|frame\|WDF und VTF der gemischten Zufallsgröße <i>Y</i>]]~~		*Richtig ist auch der letzte Vorschlag:   $h(Y) = h(X) = - \infty$.
			<br>Denn:   '''Bei jeder Zufallsgröße mit einem diskreten Anteil – und ist er auch noch so klein, ist die differentielle Entropie gleich minus unendlich'''.
	Richtig ist auch der letzte Vorschlag: $h(Y) = h(X) = - \infty$.
	<br>Denn: Bei jeder Zufallsgröße mit einem diskreten Anteil – und ist er auch noch so klein, ist die differentielle Entropie gleich minus unendlich.

	{{ML-Fuß}}		{{ML-Fuß}}

Guenter am 16. Oktober 2018 um 09:38 Uhr

2018-10-16T09:38:08Z

← Nächstältere Version		Version vom 16. Oktober 2018, 11:38 Uhr
Zeile 3:		Zeile 3:
	}}		}}

	[[Datei:P_ID2868__Inf_Z_4_2_neu.png\|right\|frame\|WDF von ~~<i>~~X~~</i>~~ und VTF von ~~<i>~~Y~~</i>~~]]		[[Datei:P_ID2868__Inf_Z_4_2_neu.png\|right\|frame\|WDF von $X$ und VTF von $Y$]]
	Man spricht von einer ~~<i>~~gemischten Zufallsgröße~~</i>~~, wenn die Zufallsgröße neben einem kontinuierlichen Anteil auch noch diskrete Anteile beinhaltet.		Man spricht von einer &bdquo;gemischten Zufallsgröße”, wenn die Zufallsgröße neben einem kontinuierlichen Anteil auch noch diskrete Anteile beinhaltet.

	*Die Zufallsgröße $Y$ mit der [[Stochastische_Signaltheorie/Verteilungsfunktion\|Verteilungsfunktion]] $F_Y(y)$ gemäß der unteren Skizze besitzt beispielsweise sowohl einen kontinuierlichen als auch einen diskreten Anteil.		*Die Zufallsgröße $Y$ mit der [[Stochastische_Signaltheorie/Verteilungsfunktion\|Verteilungsfunktion]] $F_Y(y)$ gemäß der unteren Skizze besitzt beispielsweise sowohl einen kontinuierlichen als auch einen diskreten Anteil.
Zeile 10:		Zeile 10:
	*Aus dem Sprung bei $y= 1$ in der Verteilungsfunktion (VTF) wird somit ein &bdquo;Dirac” in der Wahrscheinlichkeitsdichtefunktion (WDF).		*Aus dem Sprung bei $y= 1$ in der Verteilungsfunktion (VTF) wird somit ein &bdquo;Dirac” in der Wahrscheinlichkeitsdichtefunktion (WDF).

	*In der Teilaufgabe $(4)$ soll die differentielle Entropie $h(Y)$ der Zufallsgröße $Y$ ermittelt werden (in bit), wobei von folgender Gleichung auszugehen ist:		*In der Teilaufgabe '''(4)''' soll die differentielle Entropie $h(Y)$ der Zufallsgröße $Y$ ermittelt werden (in bit), wobei von folgender Gleichung auszugehen ist:
	:$$h(Y) =		:$$h(Y) =
	\hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}\hspace{0.03cm}(\hspace{-0.03cm}f_Y)} \hspace{-0.35cm} f_Y(y) \cdot {\rm log}_2 \hspace{0.1cm} [ f_Y(y) ] \hspace{0.1cm}{\rm d}y		\hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}\hspace{0.03cm}(\hspace{-0.03cm}f_Y)} \hspace{-0.35cm} f_Y(y) \cdot {\rm log}_2 \hspace{0.1cm} \big[ f_Y(y) \big] \hspace{0.1cm}{\rm d}y
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$

	*In der Teilaufgabe $(2)$ ist die differentielle Entropie $h(X)$ der Zufallsgröße $X$ zu berechnen, deren WDF $f_X(x)$ oben skizziert ist. Führt man einen geeigneten Grenzübergang durch, so wird auch aus der Zufallsgröße $X$ eine gemischte Zufallsgröße.		*In der Teilaufgabe '''(2)''' ist die differentielle Entropie $h(X)$ der Zufallsgröße $X$ zu berechnen, deren WDF $f_X(x)$ oben skizziert ist. Führt man einen geeigneten Grenzübergang durch, so wird auch aus der Zufallsgröße $X$ eine gemischte Zufallsgröße.





	''Hinweise:''		''Hinweise:''
	*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Differentielle_Entropie\|Differentielle Entropie]].		*Die Aufgabe gehört zum Kapitel  [[Informationstheorie/Differentielle_Entropie\|Differentielle Entropie]].
	*Weitere Informationen zu gemischten Zufallsgrößen finden Sie im Kapitel [[Stochastische_Signaltheorie/Verteilungsfunktion\|Verteilungsfunktion]] des Buches &bdquo;Stochastische Signaltheorie”.		*Weitere Informationen zu gemischten Zufallsgrößen finden Sie im Kapitel  [[Stochastische_Signaltheorie/Verteilungsfunktion\|Verteilungsfunktion]] des Buches &bdquo;Stochastische Signaltheorie”.


Zeile 28:		Zeile 31:

	<quiz display=simple>		<quiz display=simple>
	{Wie groß ist die WDF–Höhe $A$ von $f_X(x)$ um $x = 1$?		{Wie groß ist die WDF–Höhe $A$ von  $f_X(x)$  um  $x = 1$?
	\|type="[]"}		\|type="[]"}
	- $A = 0.5/\varepsilon$,		- $A = 0.5/\varepsilon$,
Zeile 34:		Zeile 37:
	- $A = 1/\varepsilon$.		- $A = 1/\varepsilon$.

	{Berechnen Sie die differentielle Entropie für verschiedene $\varepsilon$–Werte.		{Berechnen Sie die differentielle Entropie für verschiedene  $\varepsilon$–Werte.
	\|type="{}"}		\|type="{}"}
	$ε = 10^{-1}\text{:} \ \ h(X) \ = \ $ { 0.644 3% } $\ \rm bit$		$ε = 10^{-1}\text{:} \ \ h(X) \ = \ $ { 0.644 3% } $\ \rm bit$
Zeile 40:		Zeile 43:
	$ε = 10^{-3}\text{:} \ \ h(X) \ = \ $ { -7.2--6.8 } $\ \rm bit$		$ε = 10^{-3}\text{:} \ \ h(X) \ = \ $ { -7.2--6.8 } $\ \rm bit$

	{Welches Ergebnis liefert der Grenzwert $ε \to 0$?		{Welches Ergebnis liefert der Grenzwert  $ε \to 0$?
	\|type="[]"}		\|type="[]"}
	+ $f_X(x)$ hat nun einen kontinuierlichen und einen diskreten Anteil.		+ $f_X(x)$ hat nun einen kontinuierlichen und einen diskreten Anteil.
	+ Die differentielle Energie $h(X)$ ist negativ.		+ Die differentielle Energie  $h(X)$  ist negativ.
	+ Der Betrag $\|h(X)\|$ ist unendlich groß.		+ Der Betrag  $\|h(X)\|$  ist unendlich groß.


	{Welche Aussagen treffen für die Zufallsgröße $Y$ zu?		{Welche Aussagen treffen für die Zufallsgröße $Y$ zu?
	\|type="[]"}		\|type="[]"}
	- Der VTF–Wert an der Stelle $y = 1$ ist $0.5$.		- Der VTF–Wert an der Stelle  $y = 1$  ist $0.5$.
	+ $Y$ beinhaltet einen diskreten und einen kontinuierlichen Anteil..		+ $Y$ beinhaltet einen diskreten und einen kontinuierlichen Anteil.
	+ Der diskrete Anteil bei $Y = 1$ ~~= 1~~ tritt mit $10\%$ Wahrscheinlichkeit auf.		+ Der diskrete Anteil bei  $Y = 1$  tritt mit  $10\%$  Wahrscheinlichkeit auf.
	- Der kontinuierliche Anteil von $Y$ ist gleichverteilt.		- Der kontinuierliche Anteil von $Y$ ist gleichverteilt.
	+ Die differentiellen Entropien von $X$ und $Y$ sind gleich.		+ Die differentiellen Entropien von $X$ und $Y$ sind gleich.

Mwiki-lnt: Textersetzung - „\\sSollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0\.” ein.“ durch „ “

2018-05-29T12:03:51Z

Textersetzung - „\*\s*Sollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0\.” ein.“ durch „ “

← Nächstältere Version		Version vom 29. Mai 2018, 14:03 Uhr
Zeile 21:		Zeile 21:
	*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Differentielle_Entropie\|Differentielle Entropie]].		*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Differentielle_Entropie\|Differentielle Entropie]].
	*Weitere Informationen zu gemischten Zufallsgrößen finden Sie im Kapitel [[Stochastische_Signaltheorie/Verteilungsfunktion\|Verteilungsfunktion]] des Buches &bdquo;Stochastische Signaltheorie”.		*Weitere Informationen zu gemischten Zufallsgrößen finden Sie im Kapitel [[Stochastische_Signaltheorie/Verteilungsfunktion\|Verteilungsfunktion]] des Buches &bdquo;Stochastische Signaltheorie”.
	*Sollte die Eingabe des Zahlenwertes &bdquo;0” erforderlich sein, so geben Sie bitte &bdquo;0.” ein.

Guenter: Guenter verschob die Seite Aufgaben:4.2Z Gemischte Zufallsgrößen nach Aufgaben:Aufgabe 4.2Z: Gemischte Zufallsgrößen

2018-01-03T14:09:46Z

Guenter verschob die Seite Aufgaben:4.2Z Gemischte Zufallsgrößen nach Aufgaben:Aufgabe 4.2Z: Gemischte Zufallsgrößen

← Nächstältere Version	Version vom 3. Januar 2018, 16:09 Uhr
(kein Unterschied)

Guenter am 9. Juni 2017 um 10:42 Uhr

2017-06-09T10:42:01Z

← Nächstältere Version		Version vom 9. Juni 2017, 12:42 Uhr
Zeile 3:		Zeile 3:
	}}		}}

	[[Datei:P_ID2868__Inf_Z_4_2_neu.png\|right\|WDF von <i>X</i> und VTF von <i>Y</i>]]		[[Datei:P_ID2868__Inf_Z_4_2_neu.png\|right\|frame\|WDF von <i>X</i> und VTF von <i>Y</i>]]
	Man spricht von einer <i>gemischten Zufallsgröße</i>, wenn die Zufallsgröße neben einem kontinuierlichen Anteil auch noch diskrete Anteile beinhaltet.		Man spricht von einer <i>gemischten Zufallsgröße</i>, wenn die Zufallsgröße neben einem kontinuierlichen Anteil auch noch diskrete Anteile beinhaltet.

Zeile 36:		Zeile 36:
	{Berechnen Sie die differentielle Entropie für verschiedene $\varepsilon$–Werte.		{Berechnen Sie die differentielle Entropie für verschiedene $\varepsilon$–Werte.
	\|type="{}"}		\|type="{}"}
	$ε = 10^{-1}\text{:} \ \ h(X) \ = $ { 0.644 3% } $\ \rm bit$		$ε = 10^{-1}\text{:} \ \ h(X) \ = \ $ { 0.644 3% } $\ \rm bit$
	$ε = 10^{-2}\text{:} \ \ h(X) \ = $ { -0.87--0.83 } $\ \rm bit$		$ε = 10^{-2}\text{:} \ \ h(X) \ = \ $ { -0.87--0.83 } $\ \rm bit$
	$ε = 10^{-3}\text{:} \ \ h(X) \ = $ { -7.2--6.8 } $\ \rm bit$		$ε = 10^{-3}\text{:} \ \ h(X) \ = \ $ { -7.2--6.8 } $\ \rm bit$

	{Welches Ergebnis liefert der Grenzwert $ε \to 0$?		{Welches Ergebnis liefert der Grenzwert $ε \to 0$?
Zeile 106:		Zeile 106:

	Die Grafik zeigt links die WDF $f_X(x)$ und rechts die Verteilungsfunktion (kurz VTF) $F_X(x)$.		Die Grafik zeigt links die WDF $f_X(x)$ und rechts die Verteilungsfunktion (kurz VTF) $F_X(x)$.
	[[Datei:P_ID2871__Inf_Z_4_2c_neu.png\|WDF und VTF der gemischten Zufallsgröße <i>X</i>]]		[[Datei:P_ID2871__Inf_Z_4_2c_neu.png\|center\|frame\|WDF und VTF der gemischten Zufallsgröße <i>X</i>]]

	'''(4)'''  Richtig sind die <u>Lösungsvorschläge 2, 3 und 5</u>. Die untere Grafik zeigt die WDF und die VTF der Zufallsgröße $Y$. Man erkennt:		'''(4)'''  Richtig sind die <u>Lösungsvorschläge 2, 3 und 5</u>. Die untere Grafik zeigt die WDF und die VTF der Zufallsgröße $Y$. Man erkennt:
Zeile 113:		Zeile 113:
	* Da $F_Y(y)= Pr({\rm Pr}(Y \le y)$ gilt, ergibt sich der rechtsseitige Grenzwert:   $F_Y(y = 1) = 0.55$.		* Da $F_Y(y)= Pr({\rm Pr}(Y \le y)$ gilt, ergibt sich der rechtsseitige Grenzwert:   $F_Y(y = 1) = 0.55$.
	* Der kontinuierliche Anteil ist nicht gleichverteilt; vielmehr liegt eine Dreieckverteilung vor.		* Der kontinuierliche Anteil ist nicht gleichverteilt; vielmehr liegt eine Dreieckverteilung vor.
	[[Datei:P_ID2872__Inf_Z_4_2d_neu.png\|WDF und VTF der gemischten Zufallsgröße <i>Y</i>]]		[[Datei:P_ID2872__Inf_Z_4_2d_neu.png\|center\|frame\|WDF und VTF der gemischten Zufallsgröße <i>Y</i>]]

	Richtig ist auch der letzte Vorschlag: $h(Y) = h(X) = - \infty$.		Richtig ist auch der letzte Vorschlag: $h(Y) = h(X) = - \infty$.

Guenter am 6. April 2017 um 12:44 Uhr

2017-04-06T12:44:45Z

← Nächstältere Version		Version vom 6. April 2017, 14:44 Uhr
Zeile 10:		Zeile 10:
	*Aus dem Sprung bei $y= 1$ in der Verteilungsfunktion (VTF) wird somit ein &bdquo;Dirac” in der Wahrscheinlichkeitsdichtefunktion (WDF).		*Aus dem Sprung bei $y= 1$ in der Verteilungsfunktion (VTF) wird somit ein &bdquo;Dirac” in der Wahrscheinlichkeitsdichtefunktion (WDF).

	In der Teilaufgabe $(4)$ soll die differentielle Entropie $h(Y)$ der Zufallsgröße $Y$ ermittelt werden (in bit), wobei von folgender Gleichung auszugehen ist:		*In der Teilaufgabe $(4)$ soll die differentielle Entropie $h(Y)$ der Zufallsgröße $Y$ ermittelt werden (in bit), wobei von folgender Gleichung auszugehen ist:
	:$$h(Y) =		:$$h(Y) =
	\hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}\hspace{0.03cm}(\hspace{-0.03cm}f_Y)} \hspace{-0.35cm} f_Y(y) \cdot {\rm log}_2 \hspace{0.1cm} [ f_Y(y) ] \hspace{0.1cm}{\rm d}y		\hspace{0.1cm} - \hspace{-0.45cm} \int\limits_{{\rm supp}\hspace{0.03cm}(\hspace{-0.03cm}f_Y)} \hspace{-0.35cm} f_Y(y) \cdot {\rm log}_2 \hspace{0.1cm} [ f_Y(y) ] \hspace{0.1cm}{\rm d}y
Zeile 61:		Zeile 61:
	===Musterlösung===		===Musterlösung===
	{{ML-Kopf}}		{{ML-Kopf}}
	<b>a)</b>~~  Das~~ Integral über die WDF ~~muss~~ 1 ergeben:		'''(1)'''  Richtig ist der <u>Lösungsvorschlag 2</u>, weil das Integral über die WDF $1$ ergeben muss:
	$$f_X(x) \hspace{0.1cm}{\rm d}x =		:$$f_X(x) \hspace{0.1cm}{\rm d}x =
	0.25 \cdot 2 + (A - 0.25) \cdot \varepsilon \stackrel{!}{=} 1$$		0.25 \cdot 2 + (A - 0.25) \cdot \varepsilon \stackrel{!}{=} 1 \hspace{0.3cm}
	$$\Rightarrow\hspace{0.3cm}(A - 0.25) \cdot \varepsilon \stackrel{!}{=} 0.5		\Rightarrow\hspace{0.3cm}(A - 0.25) \cdot \varepsilon \stackrel{!}{=} 0.5
	\hspace{0.3cm}\Rightarrow\hspace{0.3cm} A = 0.5/\varepsilon +0.25\hspace{0.05cm}.$$		\hspace{0.3cm}\Rightarrow\hspace{0.3cm} A = 0.5/\varepsilon +0.25\hspace{0.05cm}.$$
	~~Richtig ist also der <u>Lösungsvorschlag 2</u>.~~

	~~<b>b~~)~~</b> ~~ Die differentielle Entropie (in &bdquo;bit”) ist wie folgt gegeben:		'''(2)'''  Die differentielle Entropie (in &bdquo;bit”) ist wie folgt gegeben:
	$$h(X) =		:$$h(X) =
	\hspace{0.1cm} \hspace{-0.45cm} \int\limits_{{\rm supp}(f_X)} \hspace{-0.35cm} f_X(x) \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{f_X(x)} \hspace{0.1cm}{\rm d}x		\hspace{0.1cm} \hspace{-0.45cm} \int\limits_{{\rm supp}(f_X)} \hspace{-0.35cm} f_X(x) \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{f_X(x)} \hspace{0.1cm}{\rm d}x
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$
	Wir unterteilen nun das Integral in drei Teilintegrale:		Wir unterteilen nun das Integral in drei Teilintegrale:
	$$h(X) ~~\hspace{-0.15cm}~~ = ~~\hspace{-0.15cm}~~		:$$h(X) =
	\hspace{-0.25cm} \int\limits_{0}^{1-\varepsilon/2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x +		\hspace{-0.25cm} \int\limits_{0}^{1-\varepsilon/2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x +
	\hspace{-0.25cm}\int\limits_{1+\varepsilon/2}^{2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x ~~$$ $$\~~		\hspace{-0.25cm}\int\limits_{1+\varepsilon/2}^{2} \hspace{-0.15cm} 0.25 \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.25} \hspace{0.1cm}{\rm d}x
	+ ~~\hspace{-0.15cm}~~\hspace{-0.25cm}\int\limits_{1-\varepsilon/2}^{1+\varepsilon/2} \hspace{-0.15cm} [0.5/\varepsilon + 0.25] \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.5/\varepsilon + 0.25} \hspace{0.1cm}{\rm d}x $$ $$=\		+ \hspace{-0.25cm}\int\limits_{1-\varepsilon/2}^{1+\varepsilon/2} \hspace{-0.15cm} [0.5/\varepsilon + 0.25] \cdot {\rm log}_2 \hspace{0.1cm} \frac{1}{0.5/\varepsilon + 0.25} \hspace{0.1cm}{\rm d}x $$
	\hspace{-0.~~15cm~~} 2 \cdot 0.25 \cdot 2 \cdot (2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)		:$$ \Rightarrow \hspace{0.3cm} h(X) = 2 \cdot 0.25 \cdot 2 \cdot (2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$
	Insbesondere erhält man		Insbesondere erhält man
	:* für ~~<i>ε</i>~~ = 0.1:		* für $\varepsilon = 0.1$:
	$$h(X) =1.9 - 0.525 \cdot {\rm log}_2 \hspace{0.1cm}(5.25) = 1.9 - 1.256		:$$h(X) =1.9 - 0.525 \cdot {\rm log}_2 \hspace{0.1cm}(5.25) = 1.9 - 1.256
	\hspace{0.15cm}\underline{= 0.644\,{\rm bit}}		\hspace{0.15cm}\underline{= 0.644\,{\rm bit}}
	\hspace{0.05cm},$$		\hspace{0.05cm},$$
	:* für ~~<i>ε</i>~~ = 0.01:		* für $\varepsilon = 0.01$:
	$$h(X) =1.99 - 0.5025 \cdot {\rm log}_2 \hspace{0.1cm}(50.25)= 1.99 - 2.84		:$$h(X) =1.99 - 0.5025 \cdot {\rm log}_2 \hspace{0.1cm}(50.25)= 1.99 - 2.84
	\hspace{0.15cm}\underline{= -0.850\,{\rm bit}}		\hspace{0.15cm}\underline{= -0.850\,{\rm bit}}
	\hspace{0.05cm}$$		\hspace{0.05cm}$$
	:* für ~~<i>ε</i>~~ = 0.001:		* für $\varepsilon = 0.001$:
	$$h(X) =1.999 - 0.50025 \cdot {\rm log}_2 \hspace{0.1cm}(500.25) = 1.999 - 8.967		:$$h(X) =1.999 - 0.50025 \cdot {\rm log}_2 \hspace{0.1cm}(500.25) = 1.999 - 8.967
	\hspace{0.15cm}\underline{= -6.968\,{\rm bit}}		\hspace{0.15cm}\underline{= -6.968\,{\rm bit}}
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$
	~~<b>c~~)~~</b> ~~ <u>Alle Lösungsvorschläge</u> sind hier zutreffend. Nach dem Grenzübergang <i>ε</i> → 0 erhält man für die differentielle Entropie
	$$h(X) ~~\hspace{-0.15cm}~~ = ~~\hspace{-0.15cm}~~ \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0} \hspace{0.1cm}[(2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)]~~$$ $$ = \~~		'''(3)'''  <u>Alle Lösungsvorschläge</u> sind hier zutreffend:
	~~\hspace{-0.15cm}~~ 2\,{\rm bit} - 0.5 \cdot \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0}\hspace{0.1cm}{\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon)		*Nach dem Grenzübergang <i>ε</i> → 0 erhält man für die differentielle Entropie
			:$$h(X) = \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0} \hspace{0.1cm}[(2-\varepsilon) - (0.5 + 0.25 \cdot \varepsilon) \cdot {\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon +0.25)]
			= 2\,{\rm bit} - 0.5 \cdot \lim\limits_{\varepsilon \hspace{0.05cm}\rightarrow \hspace{0.05cm} 0}\hspace{0.1cm}{\rm log}_2 \hspace{0.1cm}(0.5/\varepsilon)
	\hspace{0.3cm}\Rightarrow\hspace{0.3cm} - \infty		\hspace{0.3cm}\Rightarrow\hspace{0.3cm} - \infty
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$
	Die Wahrscheinlichkeitsdichtefunktion (WDF) ergibt sich in diesem Fall zu		*Die Wahrscheinlichkeitsdichtefunktion (WDF) ergibt sich in diesem Fall zu
	$$f_X(x) = \left\{ \begin{array}{c} 0.25 + 0.5 \cdot \delta (x-1) \\ 0 \\ \end{array} \right. \begin{array}{*{20}c} {\rm{f\ddot{u}r}} \hspace{0.1cm} 0 \le x \le 2, \\ {\rm sonst} \\ \end{array}		:$$f_X(x) = \left\{ \begin{array}{c} 0.25 + 0.5 \cdot \delta (x-1) \\ 0 \\ \end{array} \right. \begin{array}{*{20}c} {\rm{f\ddot{u}r}} \hspace{0.1cm} 0 \le x \le 2, \\ {\rm sonst} \\ \end{array}
	\hspace{0.05cm}.$$		\hspace{0.05cm}.$$
	Es handelt sich demzufolge um eine &bdquo;gemischte” Zufallsgröße mit		Es handelt sich demzufolge um eine &bdquo;gemischte” Zufallsgröße mit
	:* einem stochastischen, gleichverteilten Anteil ~~zwischen~~ 0 ~~≤ <i>~~x~~</i> ≤~~ 2, und		* einem stochastischen, gleichverteilten Anteil im Bereich $0 \le x \le 2$, und
	:* einem diskreten Anteil bei ~~<i>~~x~~</i>~~ = 1 mit der Wahrscheinlichkeit 0.5.		* einem diskreten Anteil bei $x = 1$ mit der Wahrscheinlichkeit $0.5$.
	Die Grafik zeigt links die WDF ~~<i>f<sub>X</sub></i>~~(~~<i>~~x~~</i>~~) und rechts die Verteilungsfunktion (kurz VTF) ~~<i>F<sub>X</sub></i>~~(~~<i>~~x~~</i>~~).
	[[Datei:P_ID2871__Inf_Z_4_2c_neu.png\|~~center\|~~]]		Die Grafik zeigt links die WDF $f_X(x)$ und rechts die Verteilungsfunktion (kurz VTF) $F_X(x)$.
			[[Datei:P_ID2871__Inf_Z_4_2c_neu.png\|WDF und VTF der gemischten Zufallsgröße <i>X</i>]]

	~~<b>d~~)~~</b> ~~ Richtig sind die <u>Lösungsvorschläge 2, 3 und 5</u>. Die untere Grafik zeigt die WDF und die VTF der Zufallsgröße ~~<i>~~Y~~</i>~~. Man erkennt:		'''(4)'''  Richtig sind die <u>Lösungsvorschläge 2, 3 und 5</u>. Die untere Grafik zeigt die WDF und die VTF der Zufallsgröße $Y$. Man erkennt:
	:* ~~<i>~~Y~~</i>~~ beinhaltet wie ~~<i>~~X~~</i>~~ sowohl einen kontinuierlichen als auch einen diskreten Anteil.		* $Y$ beinhaltet wie $X$ sowohl einen kontinuierlichen als auch einen diskreten Anteil.
	:* Der diskrete Anteil tritt mit der Wahrscheinlichkeit Pr(~~<i>~~Y~~</i>~~ = 1) = 0.1 auf.		* Der diskrete Anteil tritt mit der Wahrscheinlichkeit ${\rm Pr}(Y = 1) = 0.1$ auf.
	:* Da ~~<i>F<sub>Y</sub></i>~~(~~<i>~~y~~</i>~~) = Pr(~~<i>~~Y~~</i> ≤ <i>~~y~~</i>~~) gilt, ergibt sich der rechtsseitige Grenzwert: ~~<i>F<sub>Y</sub></i>~~(~~<i>~~y~~</i>~~ = 1) = 0.55.		* Da $F_Y(y)= Pr({\rm Pr}(Y \le y)$ gilt, ergibt sich der rechtsseitige Grenzwert:   $F_Y(y = 1) = 0.55$.
	:* Der kontinuierliche Anteil ist nicht gleichverteilt; vielmehr liegt eine Dreieckverteilung vor.		* Der kontinuierliche Anteil ist nicht gleichverteilt; vielmehr liegt eine Dreieckverteilung vor.
	[[Datei:P_ID2872__Inf_Z_4_2d_neu.png\|~~center\|~~]]		[[Datei:P_ID2872__Inf_Z_4_2d_neu.png\|WDF und VTF der gemischten Zufallsgröße <i>Y</i>]]

	Richtig ist auch der letzte Vorschlag: ~~<i>~~h~~</i>~~(~~<i>~~Y~~</i>~~) = ~~<i>~~h~~</i>~~(~~<i>~~X~~</i>~~) = ~~–∞~~. Denn: Bei ~~einer jeden~~ Zufallsgröße mit einem diskreten Anteil – und ist er auch noch so klein, ist die differentielle Entropie gleich minus unendlich.		Richtig ist auch der letzte Vorschlag: $h(Y) = h(X) = - \infty$.
			<br>Denn: Bei jeder Zufallsgröße mit einem diskreten Anteil – und ist er auch noch so klein, ist die differentielle Entropie gleich minus unendlich.

	{{ML-Fuß}}		{{ML-Fuß}}