Aufgaben:Aufgabe 3.8: Nochmals Transinformation - Versionsgeschichte

Maintenance script: Add English interlanguage link

2026-03-16T12:36:54Z

Add English interlanguage link

← Nächstältere Version		Version vom 16. März 2026, 14:36 Uhr
Zeile 107:		Zeile 107:

	[[Category:Aufgaben zu Informationstheorie \|^3.2 Entropien von 2D-Zufallsgrößen^]]		[[Category:Aufgaben zu Informationstheorie \|^3.2 Entropien von 2D-Zufallsgrößen^]]
			[[en:Aufgaben:Exercise_3.8:_Once_more_Mutual_Information]]

Maintenance script: Join multi-line formulas for MW 1.43 parser compat

2026-02-24T13:39:30Z

Join multi-line formulas for MW 1.43 parser compat

← Nächstältere Version		Version vom 24. Februar 2026, 15:39 Uhr
Zeile 70:		Zeile 70:
	'''(2)'''  Aus der 2D–Wahrscheinlichkeitsfunktion  $P_{ XW }(X, W)$  auf der Angabenseite erhält man für		'''(2)'''  Aus der 2D–Wahrscheinlichkeitsfunktion  $P_{ XW }(X, W)$  auf der Angabenseite erhält man für
	*die Verbundentropie:		*die Verbundentropie:
	:$$H(XW) = {\rm log}_2 \hspace{0.1cm} (9)		:$$H(XW) = {\rm log}_2 \hspace{0.1cm} (9) = 3.170\ {\rm (bit)} \hspace{0.05cm},$$
	= 3.170\ {\rm (bit)}
	\hspace{0.05cm},$$
	* die Wahrsacheinlichkeitsfunktion der Zufallsgröße  $W$:		* die Wahrsacheinlichkeitsfunktion der Zufallsgröße  $W$:
	:$$P_W(W) = \big [\hspace{0.05cm}1/9\hspace{0.05cm}, \hspace{0.15cm} 2/9\hspace{0.05cm},\hspace{0.15cm} 3/9 \hspace{0.05cm}, \hspace{0.15cm} 2/9\hspace{0.05cm}, \hspace{0.15cm} 1/9\hspace{0.05cm} \big ]\hspace{0.05cm},$$		:$$P_W(W) = \big [\hspace{0.05cm}1/9\hspace{0.05cm}, \hspace{0.15cm} 2/9\hspace{0.05cm},\hspace{0.15cm} 3/9 \hspace{0.05cm}, \hspace{0.15cm} 2/9\hspace{0.05cm}, \hspace{0.15cm} 1/9\hspace{0.05cm} \big ]\hspace{0.05cm},$$
	*die Entropie der Zufallsgröße $W$:		*die Entropie der Zufallsgröße $W$:
	:$$H(W) = 2 \cdot \frac{1}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{1} + 2 \cdot \frac{2}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{2} +		:$$H(W) = 2 \cdot \frac{1}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{1} + 2 \cdot \frac{2}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{2} +\frac{3}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{3}{= 2.197\ {\rm (bit)}} \hspace{0.05cm}.$$
	\frac{3}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{3}
	{= 2.197\ {\rm (bit)}} \hspace{0.05cm}.$$

	Mit  $H(X) = 1.585 \ \rm bit$  (wurde vorgegeben) ergibt sich somit für die Transinformation   ("Mutual Information"):		Mit  $H(X) = 1.585 \ \rm bit$  (wurde vorgegeben) ergibt sich somit für die Transinformation   ("Mutual Information"):

Guenter am 20. September 2021 um 16:29 Uhr

2021-09-20T16:29:22Z

← Nächstältere Version		Version vom 20. September 2021, 18:29 Uhr
Zeile 87:		Zeile 87:


	[[Datei:P_ID2770__Inf_A_3_7c.png\|right\|Verbundwahrscheinlichkeit zwischen  $Z$  und  $W$]]		[[Datei:P_ID2770__Inf_A_3_7c.png\|right\|frame\|Verbundwahrscheinlichkeit zwischen  $Z$  und  $W$]]
	'''(3)'''  Die zweite Grafik zeigt die Verbundwahrscheinlichkeit  $P_{ ZW }(⋅)$.		'''(3)'''  Die zweite Grafik zeigt die Verbundwahrscheinlichkeit  $P_{ ZW }(⋅)$.
	*Das Schema besteht aus  $5 · 9 = 45$  Feldern im Gegensatz zur Darstellung von  $P_{ XW }(⋅)$  auf der Angabenseite mit  $3 · 9 = 27$  Feldern.		*Das Schema besteht aus  $5 · 9 = 45$  Feldern im Gegensatz zur Darstellung von  $P_{ XW }(⋅)$  auf der Angabenseite mit  $3 · 9 = 27$  Feldern.

Guenter am 20. September 2021 um 15:54 Uhr

2021-09-20T15:54:04Z

Guenter am 31. Januar 2020 um 13:34 Uhr

2020-01-31T13:34:53Z

← Nächstältere Version		Version vom 31. Januar 2020, 15:34 Uhr
Zeile 60:		Zeile 60:
	{{ML-Kopf}}		{{ML-Kopf}}
	'''(1)'''  Richtig sind die <u>Lösungsvorschläge 1 und 2</u>:		'''(1)'''  Richtig sind die <u>Lösungsvorschläge 1 und 2</u>:
	*Mit $X = \{0, 1, 2\}$, $Y = \{0, 1, 2\}$ gilt $X + Y = \{0, 1, 2, 3, 4\}$. Auch die Wahrscheinlichkeiten stimmen mit der gegebenen Wahrscheinlichkeitsfunktion überein.		*Mit  $X = \{0,\ 1,\ 2\}$,  $Y = \{0,\ 1,\ 2\}$  gilt  $X + Y = \{0,\ 1,\ 2,\ 3,\ 4\}$.
			*Auch die Wahrscheinlichkeiten stimmen mit der gegebenen Wahrscheinlichkeitsfunktion überein.
	*Die Überprüfung der beiden anderen Vorgaben zeigt, dass auch $W = X – Y + 2$ möglich ist, nicht jedoch $W = Y – X + 2$.		*Die Überprüfung der beiden anderen Vorgaben zeigt, dass auch $W = X – Y + 2$ möglich ist, nicht jedoch $W = Y – X + 2$.


	'''(2)'''  Aus der 2D–Wahrscheinlichkeitsfunktion $P_{ XW }(X, W)$ auf der Angabenseite erhält man für
			'''(2)'''  Aus der 2D–Wahrscheinlichkeitsfunktion  $P_{ XW }(X, W)$  auf der Angabenseite erhält man für
	*die Verbundentropie:		*die Verbundentropie:
	:$$H(XW) = {\rm log}_2 \hspace{0.1cm} (9)		:$$H(XW) = {\rm log}_2 \hspace{0.1cm} (9)
	= 3.170\,{\rm (bit)}		= 3.170\ {\rm (bit)}
	\hspace{0.05cm},$$		\hspace{0.05cm},$$
	* die Wahrsacheinlichkeitsfunktion der Zufallsgröße $W$:		* die Wahrsacheinlichkeitsfunktion der Zufallsgröße  $W$:
	:$$P_W(W) = \big [\hspace{0.05cm}1/9\hspace{0.05cm}, \hspace{0.~~05cm~~} 2/9\hspace{0.05cm},\hspace{0.~~05cm~~} 3/9 \hspace{0.05cm}, \hspace{0.~~05cm~~} 2/9\hspace{0.05cm}, \hspace{0.~~05cm~~} 1/9\hspace{0.05cm} \big ]\hspace{0.05cm},$$		:$$P_W(W) = \big [\hspace{0.05cm}1/9\hspace{0.05cm}, \hspace{0.15cm} 2/9\hspace{0.05cm},\hspace{0.15cm} 3/9 \hspace{0.05cm}, \hspace{0.15cm} 2/9\hspace{0.05cm}, \hspace{0.15cm} 1/9\hspace{0.05cm} \big ]\hspace{0.05cm},$$
	*die Entropie der Zufallsgröße $W$:		*die Entropie der Zufallsgröße $W$:
	:$$H(W) = 2 \cdot \frac{1}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{1} + 2 \cdot \frac{2}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{2} +		:$$H(W) = 2 \cdot \frac{1}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{1} + 2 \cdot \frac{2}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{2} +
	\frac{3}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{3}		\frac{3}{9} \cdot {\rm log}_2 \hspace{0.1cm} \frac{9}{3}
	{= 2.197\,{\rm (bit)}} \hspace{0.05cm}.$$		{= 2.197\ {\rm (bit)}} \hspace{0.05cm}.$$

	Mit $H(X) = 1.585 \ \rm bit$ (wurde vorgegeben) ergibt sich somit für die ''Mutual Information'':		Mit  $H(X) = 1.585 \ \rm bit$  (wurde vorgegeben) ergibt sich somit für die  ''Mutual Information'':
	:$$I(X;W) = H(X) + H(W) - H(XW) = 1.585 + 2.197- 3.170\hspace{0.15cm} \underline {= 0.612\,{\rm (bit)}} \hspace{0.05cm}.$$		:$$I(X;W) = H(X) + H(W) - H(XW) = 1.585 + 2.197- 3.170\hspace{0.15cm} \underline {= 0.612\ {\rm (bit)}} \hspace{0.05cm}.$$
	~~Das linke Schaubild verdeutlicht die Berechnung der Transinformation $I(X; W)$ zwischen der ersten Komponente $X$ und der Summe $W$.~~

	[[Datei:P_ID2769__Inf_A_3_7d.png\|~~center~~\|frame\|Zur Berechnung der Transinformation]]		[[Datei:P_ID2769__Inf_A_3_7d.png\|right\|frame\|Zur Berechnung der Transinformation]]
			Das linke der beiden Schaubilder verdeutlicht die Berechnung der Transinformation  $I(X; W)$  zwischen der ersten Komponente  $X$  und der Summe  $W$.
			<br clear=all>
			[[Datei:P_ID2770__Inf_A_3_7c.png\|right\|Verbundwahrscheinlichkeit zwischen  $Z$  und  $W$]]
			'''(3)'''  Die zweite Grafik zeigt die Verbundwahrscheinlichkeit  $P_{ ZW }(⋅)$.  Das Schema besteht aus  $5 · 9 = 45$  Feldern im Gegensatz zur Darstellung von  $P_{ XW }(⋅)$  auf der Angabenseite mit  $3 · 9 = 27$  Feldern.
			*Von den  $45$  Feldern sind aber auch nur neun mit Wahrscheinlichkeiten ungleich Null belegt.  Für die Verbundentropie gilt:   $H(ZW) = 3.170\ {\rm (bit)} \hspace{0.05cm}.$
			*Mit den weiteren Entropien  $H(Z) = 3.170\ {\rm (bit)}\hspace{0.05cm}$  und  $H(W) = 2.197\ {\rm (bit)}\hspace{0.05cm}$  entsprechend der  [[Aufgaben:3.07Z_Tupel_aus_tern%C3%A4ren_Zufallsgr%C3%B6%C3%9Fen\| Aufgabe 3.8Z]]  bzw. der Teilfrage  '''(2)'''  dieser Aufgabe erhält man für die Transinformation:
			:$$I(Z;W) = H(Z) + H(W) - H(ZW) \hspace{0.15cm} \underline {= 2.197\,{\rm (bit)}} \hspace{0.05cm}.$$

	~~[[Datei:P_ID2770__Inf_A_3_7c.png\|right\|Verbundwahrscheinlichkeit zwischen $Z$ und $W$]]~~
	'''(3)'''  Die zweite Grafik zeigt die Verbundwahrscheinlichkeit $P_{ ZW }(⋅)$. Das Schema besteht aus $5 · 9 = 45$ Feldern im Gegensatz zur Darstellung von $P_{ XW }(⋅)$ auf der Angabenseite mit $3 · 9 = 27$ Feldern.
	*Von den $45$ Feldern sind aber auch nur neun mit Wahrscheinlichkeiten ungleich $0$ belegt. Für die Verbundentropie gilt:   $H(ZW) = 3.170\,{\rm (bit)} \hspace{0.05cm}.$
	*Mit den weiteren Entropien $H(Z) = 3.170\,{\rm (bit)}\hspace{0.05cm}$ und $H(W) = 2.197\,{\rm (bit)}\hspace{0.05cm}$ entsprechend der [[Aufgaben:3.07Z_Tupel_aus_tern%C3%A4ren_Zufallsgr%C3%B6%C3%9Fen\| Aufgabe 3.8Z]] bzw. der Teilfrage '''(2)''' dieser Aufgabe erhält man für die Transinformation:
	~~:$$I(Z;W) = H(Z) + H(W) - H(ZW) \hspace{0.15cm} \underline {= 2.197\,{\rm (bit)}} \hspace{0.05cm}.$$~~

			'''(4)'''  <u>Alle drei Aussagen</u> treffen zu, wie auch aus dem rechten der beiden oberen Schaubilder ersichtlich ist.

	~~'''(4)'''  <u>Alle drei Aussagen</u> treffen zu, wie auch aus dem oberen Schaubild ersichtlich ist.~~ Wir versuchen eine Interpretation dieser numerischen Ergebnisse:		Wir versuchen eine Interpretation dieser numerischen Ergebnisse:
	* Die Verbundwahrscheinlichkeit $P_{ ZW }(⋅)$ setzt sich ebenso wie $P_{ XW }(⋅)$ aus neun gleichwahrscheinlichen Elementenungleich 0 zusammen. Damit ist offensichtlich, dass auch die Verbundentropien gleich sind   ⇒   $H(ZW) = H(XW) = 3.170 \ \rm (bit)$.		* Die Verbundwahrscheinlichkeit  $P_{ ZW }(⋅)$  setzt sich ebenso wie  $P_{ XW }(⋅)$  aus neun gleichwahrscheinlichen Elementenungleich 0 zusammen. Damit ist offensichtlich, dass auch die Verbundentropien gleich sind   ⇒   $H(ZW) = H(XW) = 3.170 \ \rm (bit)$.
	* Wenn ich das Tupel $Z = (X, Y)$ kenne, kenne ich natürlich auch die Summe $W = X + Y$. Damit ist $H(W\|Z) = 0$.		* Wenn ich das Tupel  $Z = (X, Y)$  kenne, kenne ich natürlich auch die Summe  $W = X + Y$.  Damit ist  $H(W\|Z) = 0$.
	*Dagegen ist $H(Z\|W) \ne 0$. Vielmehr gilt $H(Z\|W) = H(X\|W) = 0.973 \ \rm (bit)$.		*Dagegen ist  $H(Z\|W) \ne 0$.  Vielmehr gilt  $H(Z\|W) = H(X\|W) = 0.973 \ \rm (bit)$.
	* Die Zufallsgröße $W$ liefert also die genau gleiche Information hinsichtlich des Tupels $Z$ wie für die Einzelkomponente $X$. Dies ist die verbale Interpretation der Aussage $H(Z\|W) = H(X\|W)$.		* Die Zufallsgröße  $W$  liefert also die genau gleiche Information hinsichtlich des Tupels  $Z$  wie für die Einzelkomponente  $X$.  Dies ist die verbale Interpretation der Aussage  $H(Z\|W) = H(X\|W)$.
	* Die gemeinsame Information von $Z$ und $W$   ⇒   $I(Z; W)$ ist größer als die gemeinsame Information von $X$ und $W$   ⇒   $I(X; W)$ , weil $H(W\|Z) =0$ gilt, während $H(W\|X)$ ungleich ~~$0$~~ ist, nämlich genau so groß ist wie $H(X)$ :		* Die gemeinsame Information von  $Z$  und  $W$    ⇒   $I(Z; W)$  ist größer als die gemeinsame Information von  $X$  und  $W$   ⇒   $I(X; W)$, weil  $H(W\|Z) =0$  gilt, während  $H(W\|X)$  ungleich Null ist, nämlich genau so groß ist wie  $H(X)$ :
	:$$I(Z;W) = H(W) - H(W\|Z) = 2.197 - 0= 2.197\,{\rm (bit)} \hspace{0.05cm},$$		:$$I(Z;W) = H(W) - H(W\|Z) = 2.197 - 0= 2.197\,{\rm (bit)} \hspace{0.05cm},$$
	:$$I(X;W) = H(W) - H(W\|X) = 2.197 - 1.585= 0.612\,{\rm (bit)} \hspace{0.05cm}.$$		:$$I(X;W) = H(W) - H(W\|X) = 2.197 - 1.585= 0.612\,{\rm (bit)} \hspace{0.05cm}.$$

Guenter am 31. Januar 2020 um 13:13 Uhr

2020-01-31T13:13:37Z

← Nächstältere Version		Version vom 31. Januar 2020, 15:13 Uhr
Zeile 4:		Zeile 4:

	[[Datei:P_ID2768__Inf_A_3_7_neu.png\|right\|frame\|&bdquo;Wahrscheinlichkeiten” $P_{ XY }$  und  $P_{ XW }$]]		[[Datei:P_ID2768__Inf_A_3_7_neu.png\|right\|frame\|&bdquo;Wahrscheinlichkeiten” $P_{ XY }$  und  $P_{ XW }$]]
	Wir betrachten das Tupel $Z = (X, Y)$, wobei die Einzelkomponenten $X$ und $Y$ jeweils ternäre Zufallsgrößen darstellen:		Wir betrachten das Tupel  $Z = (X, Y)$, wobei die Einzelkomponenten  $X$  und  $Y$  jeweils ternäre Zufallsgrößen darstellen:
	:$$X = \{ 0 , 1 , 2 \} , \hspace{0.3cm}Y= \{ 0 , 1 , 2 \}.$$		:$$X = \{ 0 ,\ 1 ,\ 2 \} , \hspace{0.3cm}Y= \{ 0 ,\ 1 ,\ 2 \}.$$

	Die gemeinsame Wahrscheinlichkeitsfunktion $P_{ XY }(X, Y)$ beider Zufallsgrößen ist in der oberen Grafik angegeben. In der [[Aufgaben:3.07Z_Tupel_aus_tern%C3%A4ren_Zufallsgr%C3%B6%C3%9Fen\|Aufgabe 3.8Z]] wird diese Konstellation ausführlich analysiert. Man erhält als Ergebnis (alle Angaben in &bdquo;bit”):		Die gemeinsame Wahrscheinlichkeitsfunktion  $P_{ XY }(X, Y)$  beider Zufallsgrößen ist in der oberen Grafik angegeben.

			In der  [[Aufgaben:3.07Z_Tupel_aus_tern%C3%A4ren_Zufallsgr%C3%B6%C3%9Fen\|Aufgabe 3.8Z]]  wird diese Konstellation ausführlich analysiert.  Man erhält als Ergebnis (alle Angaben in &bdquo;bit”):
	:* $H(X) = H(Y) = \log_2 (3) = 1.585,$		:* $H(X) = H(Y) = \log_2 (3) = 1.585,$
	:* $H(XY) = \log_2 (9) = 3.170,$		:* $H(XY) = \log_2 (9) = 3.170,$
Zeile 14:		Zeile 16:
	:* $I(X, Z) = 1.585.$		:* $I(X, Z) = 1.585.$

	Desweiteren betrachten wir ~~hier~~ die Zufallsgröße $W = \{ 0, 1, 2, 3, 4 \}$, deren Eigenschaften sich aus der Verbundwahrscheinlichkeitsfunktion $P_{ XW }(X, W)$ nach der unteren Skizze ergeben. Die Wahrscheinlichkeiten sind in allen weiß hinterlegten Feldern jeweils ~~$0$~~.		Desweiteren betrachten wir die Zufallsgröße  $W = \{ 0,\ 1,\ 2,\ 3,\ 4 \}$, deren Eigenschaften sich aus der Verbundwahrscheinlichkeitsfunktion  $P_{ XW }(X, W)$  nach der unteren Skizze ergeben.  Die Wahrscheinlichkeiten sind in allen weiß hinterlegten Feldern jeweils Null.

	Gesucht ist in der vorliegenden Aufgabe die Transinformation zwischen		Gesucht ist in der vorliegenden Aufgabe die Transinformation zwischen
	:*den Zufallsgrößen $X$ und $W$   ⇒   $I(X; W)$,		:*den Zufallsgrößen  $X$  und  $W$   ⇒   $I(X; W)$,
	:* den Zufallsgrößen $Z$ und $W ⇒ I(Z; W)$.		:* den Zufallsgrößen  $Z$  und  $W   ⇒   I(Z; W)$.


Zeile 25:		Zeile 27:

	''Hinweise:''		''Hinweise:''
	*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen\|Verschiedene Entropien zweidimensionaler Zufallsgrößen]].		*Die Aufgabe gehört zum Kapitel  [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen\|Verschiedene Entropien zweidimensionaler Zufallsgrößen]].
	*Insbesondere wird Bezug genommen auf die Seiten <br>     [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Bedingte_Wahrscheinlichkeit_und_bedingte_Entropie\|Bedingte Wahrscheinlichkeit und bedingte Entropie]] sowie <br>     [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Transinformation_zwischen_zwei_Zufallsgr.C3.B6.C3.9Fen\|Transinformation zwischen zwei Zufallsgrößen]].		*Insbesondere wird Bezug genommen auf die Seiten <br>     [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Bedingte_Wahrscheinlichkeit_und_bedingte_Entropie\|Bedingte Wahrscheinlichkeit und bedingte Entropie]] sowie <br>     [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Transinformation_zwischen_zwei_Zufallsgr.C3.B6.C3.9Fen\|Transinformation zwischen zwei Zufallsgrößen]].

Zeile 33:		Zeile 35:

	<quiz display=simple>		<quiz display=simple>
	{Wie könnten die Größen $X$, $Y$ und $W$ zusammenhängen?		{Wie könnten die Größen  $X$,  $Y$  und  $W$  zusammenhängen?
	\|type="[]"}		\|type="[]"}
	+ $W = X + Y$,		+ $W = X + Y$,
Zeile 39:		Zeile 41:
	-$W = Y - X + 2$.		-$W = Y - X + 2$.

	{Welche Transinformation besteht zwischen den Zufallsgrößen $X$ und $W$?		{Welche Transinformation besteht zwischen den Zufallsgrößen  $X$  und  $W$?
	\|type="{}"}		\|type="{}"}
	$I(X; W) \ = \ $ { 0.612 3% } $\ \rm bit$		$I(X; W) \ = \ $ { 0.612 3% } $\ \rm bit$

	{Welche Transinformation besteht zwischen den Zufallsgrößen $Z$ und $W$?		{Welche Transinformation besteht zwischen den Zufallsgrößen  $Z$  und  $W$?
	\|type="{}"}		\|type="{}"}
	$I(Z; W) \ = \ $ { 2.197 3% } $\ \rm bit$		$I(Z; W) \ = \ $ { 2.197 3% } $\ \rm bit$
Zeile 49:		Zeile 51:
	{Welche der nachfolgenden Aussagen sind zutreffend?		{Welche der nachfolgenden Aussagen sind zutreffend?
	\|type="[]"}		\|type="[]"}
	+ Es gilt $H(ZW) = H(XW)$.		+ Es gilt  $H(ZW) = H(XW)$.
	+ Es gilt $H(W\|Z) = 0$.		+ Es gilt  $H(W\|Z) = 0$.
	+ Es gilt $I(Z; W) > I(X; W)$.		+ Es gilt  $I(Z; W) > I(X; W)$.

	</quiz>		</quiz>

Guenter am 9. Oktober 2018 um 15:53 Uhr

2018-10-09T15:53:49Z

← Nächstältere Version		Version vom 9. Oktober 2018, 17:53 Uhr
Zeile 57:		Zeile 57:
	===Musterlösung===		===Musterlösung===
	{{ML-Kopf}}		{{ML-Kopf}}
	'''(1)'''  Mit $X = \{0, 1, 2\}$, $Y = \{0, 1, 2\}$ gilt $X + Y = \{0, 1, 2, 3, 4\}$ ~~und auch~~ die Wahrscheinlichkeiten stimmen mit der ~~vorgegebenen~~ Wahrscheinlichkeitsfunktion überein. Die Überprüfung der beiden anderen Vorgaben zeigt, dass auch $W = X – Y + 2$ möglich ist ~~  ⇒   <u>Lösungsvorschläge 1 und~~ 2~~</u>~~.		'''(1)'''  Richtig sind die <u>Lösungsvorschläge 1 und 2</u>:
			*Mit $X = \{0, 1, 2\}$, $Y = \{0, 1, 2\}$ gilt $X + Y = \{0, 1, 2, 3, 4\}$. Auch die Wahrscheinlichkeiten stimmen mit der gegebenen Wahrscheinlichkeitsfunktion überein.
			*Die Überprüfung der beiden anderen Vorgaben zeigt, dass auch $W = X – Y + 2$ möglich ist, nicht jedoch $W = Y – X + 2$.


	'''(2)'''  Aus der 2D–Wahrscheinlichkeitsfunktion $P_{ XW }(X, W)$ auf der Angabenseite erhält man für		'''(2)'''  Aus der 2D–Wahrscheinlichkeitsfunktion $P_{ XW }(X, W)$ auf der Angabenseite erhält man für
Zeile 75:		Zeile 78:
	Das linke Schaubild verdeutlicht die Berechnung der Transinformation $I(X; W)$ zwischen der ersten Komponente $X$ und der Summe $W$.		Das linke Schaubild verdeutlicht die Berechnung der Transinformation $I(X; W)$ zwischen der ersten Komponente $X$ und der Summe $W$.

	[[Datei:P_ID2769__Inf_A_3_7d.png\|Zur Berechnung der Transinformation]]		[[Datei:P_ID2769__Inf_A_3_7d.png\|center\|frame\|Zur Berechnung der Transinformation]]


	[[Datei:P_ID2770__Inf_A_3_7c.png\|right\|Verbundwahrscheinlichkeit zwischen ~~<i>~~Z~~</i>~~ und ~~<i>~~W~~</i>~~]]		[[Datei:P_ID2770__Inf_A_3_7c.png\|right\|Verbundwahrscheinlichkeit zwischen $Z$ und $W$]]
	'''(3)'''  Die ~~untere~~ Grafik zeigt die Verbundwahrscheinlichkeit $P_{ ZW }(⋅)$. Das Schema besteht aus $5 · 9 = 45$ Feldern im Gegensatz zur Darstellung von $P_{ XW }(⋅)$ auf der Angabenseite mit $3 · 9 = 27$ Feldern.		'''(3)'''  Die zweite Grafik zeigt die Verbundwahrscheinlichkeit $P_{ ZW }(⋅)$. Das Schema besteht aus $5 · 9 = 45$ Feldern im Gegensatz zur Darstellung von $P_{ XW }(⋅)$ auf der Angabenseite mit $3 · 9 = 27$ Feldern.
	*Von den $45$ Feldern sind aber auch nur neun mit Wahrscheinlichkeiten ungleich 0 belegt. Für die Verbundentropie gilt: $H(ZW) = 3.170\,{\rm (bit)} \hspace{0.05cm}.$		*Von den $45$ Feldern sind aber auch nur neun mit Wahrscheinlichkeiten ungleich $0$ belegt. Für die Verbundentropie gilt:   $H(ZW) = 3.170\,{\rm (bit)} \hspace{0.05cm}.$
	*Mit den weiteren Entropien $H(Z) = 3.170\,{\rm (bit)}\hspace{0.05cm}$ und $H(W) = 2.197\,{\rm (bit)}\hspace{0.05cm}$ entsprechend der [[Aufgaben:3.07Z_Tupel_aus_tern%C3%A4ren_Zufallsgr%C3%B6%C3%9Fen\| ~~Teilaufgabe~~ 3.8Z]] bzw. der Teilfrage (2) dieser Aufgabe erhält man für die Transinformation:		*Mit den weiteren Entropien $H(Z) = 3.170\,{\rm (bit)}\hspace{0.05cm}$ und $H(W) = 2.197\,{\rm (bit)}\hspace{0.05cm}$ entsprechend der [[Aufgaben:3.07Z_Tupel_aus_tern%C3%A4ren_Zufallsgr%C3%B6%C3%9Fen\| Aufgabe 3.8Z]] bzw. der Teilfrage '''(2)''' dieser Aufgabe erhält man für die Transinformation:
	:$$I(Z;W) = H(Z) + H(W) - H(ZW) \hspace{0.15cm} \underline {= 2.197\,{\rm (bit)}} \hspace{0.05cm}.$$		:$$I(Z;W) = H(Z) + H(W) - H(ZW) \hspace{0.15cm} \underline {= 2.197\,{\rm (bit)}} \hspace{0.05cm}.$$


	'''(4)'''  <u>Alle drei Aussagen</u> treffen zu, wie auch aus dem oberen Schaubild ersichtlich ist. Wir versuchen eine Interpretation dieser numerischen Ergebnisse:		'''(4)'''  <u>Alle drei Aussagen</u> treffen zu, wie auch aus dem oberen Schaubild ersichtlich ist. Wir versuchen eine Interpretation dieser numerischen Ergebnisse:
	* Die Verbundwahrscheinlichkeit $P_{ ZW }$ setzt sich ebenso wie $P_{ XW }$ aus neun gleichwahrscheinlichen Elementenungleich 0 zusammen. Damit ist offensichtlich, dass auch die Verbundentropien gleich sind   ⇒   $H(ZW) = H(XW) = 3.170 \ \rm (bit)$.		* Die Verbundwahrscheinlichkeit $P_{ ZW }(⋅)$ setzt sich ebenso wie $P_{ XW }(⋅)$ aus neun gleichwahrscheinlichen Elementenungleich 0 zusammen. Damit ist offensichtlich, dass auch die Verbundentropien gleich sind   ⇒   $H(ZW) = H(XW) = 3.170 \ \rm (bit)$.
	* Wenn ich das Tupel $Z = (X, Y)$ kenne, kenne ich natürlich auch die Summe $W = X + Y$. Damit ist $H(W\|Z) = 0$. Dagegen ist $H(Z\|W) \ne 0$. Vielmehr gilt $H(Z\|W) = H(X\|W) = 0.973 \ \rm (bit)$.		* Wenn ich das Tupel $Z = (X, Y)$ kenne, kenne ich natürlich auch die Summe $W = X + Y$. Damit ist $H(W\|Z) = 0$.
			*Dagegen ist $H(Z\|W) \ne 0$. Vielmehr gilt $H(Z\|W) = H(X\|W) = 0.973 \ \rm (bit)$.
	* Die Zufallsgröße $W$ liefert also die genau gleiche Information hinsichtlich des Tupels $Z$ wie für die Einzelkomponente $X$. Dies ist die verbale Interpretation der Aussage $H(Z\|W) = H(X\|W)$.		* Die Zufallsgröße $W$ liefert also die genau gleiche Information hinsichtlich des Tupels $Z$ wie für die Einzelkomponente $X$. Dies ist die verbale Interpretation der Aussage $H(Z\|W) = H(X\|W)$.
	* Die gemeinsame Information von $Z$ und $W$   ⇒   $I(Z; W)$ ist größer als die gemeinsame Information von $X$ und $W$   ⇒   $I(X; W)$ , weil $H(W\|Z) =0$ gilt, während $H(W\|X)$ ungleich $0$ ist, nämlich genau so groß ist wie $H(X)$ :		* Die gemeinsame Information von $Z$ und $W$   ⇒   $I(Z; W)$ ist größer als die gemeinsame Information von $X$ und $W$   ⇒   $I(X; W)$ , weil $H(W\|Z) =0$ gilt, während $H(W\|X)$ ungleich $0$ ist, nämlich genau so groß ist wie $H(X)$ :

Guenter am 9. Oktober 2018 um 15:37 Uhr

2018-10-09T15:37:29Z

← Nächstältere Version		Version vom 9. Oktober 2018, 17:37 Uhr
Zeile 3:		Zeile 3:
	}}		}}

	[[Datei:P_ID2768__Inf_A_3_7_neu.png\|right\|~~Verbundwahrscheinlichkeiten <i>P<sub>~~XY~~</sub></i>~~ und ~~<i>P<sub>~~XW~~</sub></i>~~]]		[[Datei:P_ID2768__Inf_A_3_7_neu.png\|right\|frame\|&bdquo;Wahrscheinlichkeiten” $P_{ XY }$  und  $P_{ XW }$]]
	Wir betrachten das Tupel $Z = (X, Y)$, wobei die Einzelkomponenten $X$ und $Y$ jeweils ternäre Zufallsgrößen darstellen:		Wir betrachten das Tupel $Z = (X, Y)$, wobei die Einzelkomponenten $X$ und $Y$ jeweils ternäre Zufallsgrößen darstellen:
	:$$X = \{ 0 , 1 , 2 \}$ , \hspace{0.3cm}$Y= \{ 0 , 1 , 2 \}$$.		:$$X = \{ 0 , 1 , 2 \} , \hspace{0.3cm}Y= \{ 0 , 1 , 2 \}.$$

	Die gemeinsame Wahrscheinlichkeitsfunktion $P_{ XY }(X, Y)$ beider Zufallsgrößen ist in der oberen Grafik angegeben. In der [[Aufgaben:3.07Z_Tupel_aus_tern%C3%A4ren_Zufallsgr%C3%B6%C3%9Fen\|~~Zusatzaufgabe~~ 3.8Z]] wird diese Konstellation ausführlich analysiert. Man erhält als Ergebnis (alle Angaben in &bdquo;bit”):		Die gemeinsame Wahrscheinlichkeitsfunktion $P_{ XY }(X, Y)$ beider Zufallsgrößen ist in der oberen Grafik angegeben. In der [[Aufgaben:3.07Z_Tupel_aus_tern%C3%A4ren_Zufallsgr%C3%B6%C3%9Fen\|Aufgabe 3.8Z]] wird diese Konstellation ausführlich analysiert. Man erhält als Ergebnis (alle Angaben in &bdquo;bit”):
	* $H(X) = H(Y) = \log_2 (3) = 1.585,$		:* $H(X) = H(Y) = \log_2 (3) = 1.585,$
	* $H(XY) = \log_2 (9) = 3.170,$		:* $H(XY) = \log_2 (9) = 3.170,$
	* $I(X, Y) = 0,$		:* $I(X, Y) = 0,$
	* $H(Z) = H(XZ) = 3.170,$		:* $H(Z) = H(XZ) = 3.170,$
	* $I(X, Z) = 1.585.$		:* $I(X, Z) = 1.585.$

	Desweiteren betrachten wir hier die Zufallsgröße $W = \{ 0, 1, 2, 3, 4 \}$, deren Eigenschaften sich aus der Verbundwahrscheinlichkeitsfunktion $P_{ XW }(X, W)$ nach der unteren Skizze ergeben. Die Wahrscheinlichkeiten sind in allen weiß hinterlegten Feldern jeweils $0$.		Desweiteren betrachten wir hier die Zufallsgröße $W = \{ 0, 1, 2, 3, 4 \}$, deren Eigenschaften sich aus der Verbundwahrscheinlichkeitsfunktion $P_{ XW }(X, W)$ nach der unteren Skizze ergeben. Die Wahrscheinlichkeiten sind in allen weiß hinterlegten Feldern jeweils $0$.
Zeile 19:		Zeile 19:
	:*den Zufallsgrößen $X$ und $W$   ⇒   $I(X; W)$,		:*den Zufallsgrößen $X$ und $W$   ⇒   $I(X; W)$,
	:* den Zufallsgrößen $Z$ und $W ⇒ I(Z; W)$.		:* den Zufallsgrößen $Z$ und $W ⇒ I(Z; W)$.





	''Hinweise:''		''Hinweise:''
	*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen\|Verschiedene Entropien zweidimensionaler Zufallsgrößen]].		*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen\|Verschiedene Entropien zweidimensionaler Zufallsgrößen]].
	*Insbesondere wird Bezug genommen auf die Seiten [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Bedingte_Wahrscheinlichkeit_und_bedingte_Entropie\|Bedingte Wahrscheinlichkeit und bedingte Entropie]] sowie [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Transinformation_zwischen_zwei_Zufallsgr.C3.B6.C3.9Fen\|Transinformation zwischen zwei Zufallsgrößen]].		*Insbesondere wird Bezug genommen auf die Seiten <br>     [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Bedingte_Wahrscheinlichkeit_und_bedingte_Entropie\|Bedingte Wahrscheinlichkeit und bedingte Entropie]] sowie <br>     [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Transinformation_zwischen_zwei_Zufallsgr.C3.B6.C3.9Fen\|Transinformation zwischen zwei Zufallsgrößen]].


Zeile 33:		Zeile 36:
	\|type="[]"}		\|type="[]"}
	+ $W = X + Y$,		+ $W = X + Y$,
	+$W = X – Y + 2$,		+$W = X - Y + 2$,
	-$W = Y – X + 2$.		-$W = Y - X + 2$.

	{Welche ~~Transinformationen~~ besteht zwischen den Zufallsgrößen $X$ und $W$?		{Welche Transinformation besteht zwischen den Zufallsgrößen $X$ und $W$?
	\|type="{}"}		\|type="{}"}
	$I(X; W) \ = \ $ { 0.612 3% } $\ \rm bit$		$I(X; W) \ = \ $ { 0.612 3% } $\ \rm bit$

Mwiki-lnt: Textersetzung - „\\sSollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0\.” ein.“ durch „ “

2018-05-29T12:03:46Z

Textersetzung - „\*\s*Sollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0\.” ein.“ durch „ “

← Nächstältere Version		Version vom 29. Mai 2018, 14:03 Uhr
Zeile 24:		Zeile 24:
	*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen\|Verschiedene Entropien zweidimensionaler Zufallsgrößen]].		*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen\|Verschiedene Entropien zweidimensionaler Zufallsgrößen]].
	*Insbesondere wird Bezug genommen auf die Seiten [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Bedingte_Wahrscheinlichkeit_und_bedingte_Entropie\|Bedingte Wahrscheinlichkeit und bedingte Entropie]] sowie [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Transinformation_zwischen_zwei_Zufallsgr.C3.B6.C3.9Fen\|Transinformation zwischen zwei Zufallsgrößen]].		*Insbesondere wird Bezug genommen auf die Seiten [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Bedingte_Wahrscheinlichkeit_und_bedingte_Entropie\|Bedingte Wahrscheinlichkeit und bedingte Entropie]] sowie [[Informationstheorie/Verschiedene_Entropien_zweidimensionaler_Zufallsgrößen#Transinformation_zwischen_zwei_Zufallsgr.C3.B6.C3.9Fen\|Transinformation zwischen zwei Zufallsgrößen]].
	*Sollte die Eingabe des Zahlenwertes &bdquo;0” erforderlich sein, so geben Sie bitte &bdquo;0.” ein.

Guenter: Guenter verschob die Seite Aufgaben:3.8 Nochmals Transinformation nach Aufgaben:Aufgabe 3.8: Nochmals Transinformation

2018-01-03T14:05:29Z

Guenter verschob die Seite Aufgaben:3.8 Nochmals Transinformation nach Aufgaben:Aufgabe 3.8: Nochmals Transinformation

← Nächstältere Version	Version vom 3. Januar 2018, 16:05 Uhr
(kein Unterschied)

← Nächstältere Version		Version vom 20. September 2021, 17:54 Uhr
Zeile 3:		Zeile 3:
	}}		}}

	[[Datei:P_ID2768__Inf_A_3_7_neu.png\|right\|frame\|&~~bdquo~~;~~Wahrscheinlichkeiten~~&~~rdquo~~; $P_{ XY }$  und  $P_{ XW }$]]		[[Datei:P_ID2768__Inf_A_3_7_neu.png\|right\|frame\|Die 2D–Funktionen  <br> $P_{ XY }$  und  $P_{ XW }$]]
	Wir betrachten das Tupel  $Z = (X, Y)$, wobei die Einzelkomponenten  $X$  und  $Y$  jeweils ternäre Zufallsgrößen darstellen:		Wir betrachten das Tupel  $Z = (X, Y)$,  wobei die Einzelkomponenten  $X$  und  $Y$  jeweils ternäre Zufallsgrößen darstellen:
	:$$X = \{ 0 ,\ 1 ,\ 2 \} , \hspace{0.3cm}Y= \{ 0 ,\ 1 ,\ 2 \}.$$		:$$X = \{ 0 ,\ 1 ,\ 2 \} , \hspace{0.3cm}Y= \{ 0 ,\ 1 ,\ 2 \}.$$

Zeile 16:		Zeile 16:
	:* $I(X, Z) = 1.585.$		:* $I(X, Z) = 1.585.$

	Desweiteren betrachten wir die Zufallsgröße  $W = \{ 0,\ 1,\ 2,\ 3,\ 4 \}$, deren Eigenschaften sich aus der Verbundwahrscheinlichkeitsfunktion  $P_{ XW }(X, W)$  nach der unteren Skizze ergeben.  Die Wahrscheinlichkeiten sind in allen weiß hinterlegten Feldern jeweils Null.		Desweiteren betrachten wir die Zufallsgröße  $W = \{ 0,\ 1,\ 2,\ 3,\ 4 \}$,  deren Eigenschaften sich aus der Verbundwahrscheinlichkeitsfunktion  $P_{ XW }(X, W)$  nach der unteren Skizze ergeben.  Die Wahrscheinlichkeiten sind in allen weiß hinterlegten Feldern jeweils Null.

	Gesucht ist in der vorliegenden Aufgabe die Transinformation zwischen		Gesucht ist in der vorliegenden Aufgabe die Transinformation zwischen
Zeile 62:		Zeile 62:
	*Mit  $X = \{0,\ 1,\ 2\}$,  $Y = \{0,\ 1,\ 2\}$  gilt  $X + Y = \{0,\ 1,\ 2,\ 3,\ 4\}$.		*Mit  $X = \{0,\ 1,\ 2\}$,  $Y = \{0,\ 1,\ 2\}$  gilt  $X + Y = \{0,\ 1,\ 2,\ 3,\ 4\}$.
	*Auch die Wahrscheinlichkeiten stimmen mit der gegebenen Wahrscheinlichkeitsfunktion überein.		*Auch die Wahrscheinlichkeiten stimmen mit der gegebenen Wahrscheinlichkeitsfunktion überein.
	*Die Überprüfung der beiden anderen Vorgaben zeigt, dass auch $W = X – Y + 2$ möglich ist, nicht jedoch $W = Y – X + 2$.		*Die Überprüfung der beiden anderen Vorgaben zeigt, dass auch  $W = X - Y + 2$  möglich ist, nicht jedoch  $W = Y - X + 2$.


			[[Datei:P_ID2769__Inf_A_3_7d.png\|right\|frame\|Zur Berechnung der Transinformation]]


Zeile 78:		Zeile 80:
	{= 2.197\ {\rm (bit)}} \hspace{0.05cm}.$$		{= 2.197\ {\rm (bit)}} \hspace{0.05cm}.$$

	Mit  $H(X) = 1.585 \ \rm bit$  (wurde vorgegeben) ergibt sich somit für die  ''Mutual Information'':		Mit  $H(X) = 1.585 \ \rm bit$  (wurde vorgegeben) ergibt sich somit für die Transinformation   ("Mutual Information"):
	:$$I(X;W) = H(X) + H(W) - H(XW) = 1.585 + 2.197- 3.170\hspace{0.15cm} \underline {= 0.612\ {\rm (bit)}} \hspace{0.05cm}.$$		:$$I(X;W) = H(X) + H(W) - H(XW) = 1.585 + 2.197- 3.170\hspace{0.15cm} \underline {= 0.612\ {\rm (bit)}} \hspace{0.05cm}.$$

	~~[[Datei:P_ID2769__Inf_A_3_7d.png\|right\|frame\|Zur Berechnung der Transinformation]]~~
	Das linke der beiden Schaubilder verdeutlicht die Berechnung der Transinformation  $I(X; W)$  zwischen der ersten Komponente  $X$  und der Summe  $W$.		Das linke der beiden Schaubilder verdeutlicht die Berechnung der Transinformation  $I(X; W)$  zwischen der ersten Komponente  $X$  und der Summe  $W$.
	<br clear=all>		<br clear=all>


	[[Datei:P_ID2770__Inf_A_3_7c.png\|right\|Verbundwahrscheinlichkeit zwischen  $Z$  und  $W$]]		[[Datei:P_ID2770__Inf_A_3_7c.png\|right\|Verbundwahrscheinlichkeit zwischen  $Z$  und  $W$]]
	'''(3)'''  Die zweite Grafik zeigt die Verbundwahrscheinlichkeit  $P_{ ZW }(⋅)$.  Das Schema besteht aus  $5 · 9 = 45$  Feldern im Gegensatz zur Darstellung von  $P_{ XW }(⋅)$  auf der Angabenseite mit  $3 · 9 = 27$  Feldern.		'''(3)'''  Die zweite Grafik zeigt die Verbundwahrscheinlichkeit  $P_{ ZW }(⋅)$.
			*Das Schema besteht aus  $5 · 9 = 45$  Feldern im Gegensatz zur Darstellung von  $P_{ XW }(⋅)$  auf der Angabenseite mit  $3 · 9 = 27$  Feldern.
	*Von den  $45$  Feldern sind aber auch nur neun mit Wahrscheinlichkeiten ungleich Null belegt.  Für die Verbundentropie gilt:   $H(ZW) = 3.170\ {\rm (bit)} \hspace{0.05cm}.$		*Von den  $45$  Feldern sind aber auch nur neun mit Wahrscheinlichkeiten ungleich Null belegt.  Für die Verbundentropie gilt:   $H(ZW) = 3.170\ {\rm (bit)} \hspace{0.05cm}.$
	*Mit den weiteren Entropien  $H(Z) = 3.170\ {\rm (bit)}\hspace{0.05cm}$  und  $H(W) = 2.197\ {\rm (bit)}\hspace{0.05cm}$  entsprechend der  [[Aufgaben:3.07Z_Tupel_aus_tern%C3%A4ren_Zufallsgr%C3%B6%C3%9Fen\| Aufgabe 3.8Z]]  bzw. der Teilfrage  '''(2)'''  dieser Aufgabe erhält man für die Transinformation:		*Mit den weiteren Entropien  $H(Z) = 3.170\ {\rm (bit)}\hspace{0.05cm}$  und  $H(W) = 2.197\ {\rm (bit)}\hspace{0.05cm}$  entsprechend der  [[Aufgaben:3.07Z_Tupel_aus_tern%C3%A4ren_Zufallsgr%C3%B6%C3%9Fen\| Aufgabe 3.8Z]]  bzw. der Teilfrage  '''(2)'''  dieser Aufgabe erhält man für die Transinformation:
Zeile 91:		Zeile 95:


	~~'''(4)'''  <u>Alle drei Aussagen</u> treffen zu, wie auch aus dem rechten der beiden oberen Schaubilder ersichtlich ist.~~

	Wir versuchen eine Interpretation dieser numerischen Ergebnisse:		'''(4)'''  <u>Alle drei Aussagen</u> treffen zu, wie aus dem rechten der beiden oberen Schaubilder ersichtlich ist.  Wir versuchen eine Interpretation dieser numerischen Ergebnisse:
	* Die Verbundwahrscheinlichkeit  $P_{ ZW }(⋅)$  setzt sich ebenso wie  $P_{ XW }(⋅)$  aus neun gleichwahrscheinlichen ~~Elementenungleich~~ 0 zusammen. Damit ist offensichtlich, dass auch die Verbundentropien gleich sind   ⇒   $H(ZW) = H(XW) = 3.170 \ \rm (bit)$.		* Die Verbundwahrscheinlichkeit  $P_{ ZW }(⋅)$  setzt sich ebenso wie  $P_{ XW }(⋅)$  aus neun gleichwahrscheinlichen Elementen ungleich 0 zusammen.  Damit ist offensichtlich, dass auch die Verbundentropien gleich sind   ⇒   $H(ZW) = H(XW) = 3.170 \ \rm (bit)$.
	* Wenn ich das Tupel  $Z = (X, Y)$  kenne, kenne ich natürlich auch die Summe  $W = X + Y$.  Damit ist  $H(W\|Z) = 0$.		* Wenn ich das Tupel  $Z = (X, Y)$  kenne,  kenne ich natürlich auch die Summe  $W = X + Y$.  Damit ist  $H(W\|Z) = 0$.
	*Dagegen ist  $H(Z\|W) \ne 0$.  Vielmehr gilt  $H(Z\|W) = H(X\|W) = 0.973 \ \rm (bit)$.		*Dagegen ist  $H(Z\|W) \ne 0$.  Vielmehr gilt  $H(Z\|W) = H(X\|W) = 0.973 \ \rm (bit)$.
	* Die Zufallsgröße  $W$  liefert also die genau gleiche Information hinsichtlich des Tupels  $Z$  wie für die Einzelkomponente  $X$.  Dies ist die verbale Interpretation der Aussage  $H(Z\|W) = H(X\|W)$.		* Die Zufallsgröße  $W$  liefert also die genau gleiche Information hinsichtlich des Tupels  $Z$  wie für die Einzelkomponente  $X$.  Dies ist die verbale Interpretation der Aussage  $H(Z\|W) = H(X\|W)$.