Aufgaben:Aufgabe 1.1: Wetterentropie - Versionsgeschichte

Maintenance script: Add English interlanguage link

2026-03-16T12:34:34Z

Add English interlanguage link

← Nächstältere Version		Version vom 16. März 2026, 14:34 Uhr
Zeile 118:		Zeile 118:

	[[Category:Aufgaben zu Informationstheorie\|^1.1 Gedächtnislose Nachrichtenquellen^]]		[[Category:Aufgaben zu Informationstheorie\|^1.1 Gedächtnislose Nachrichtenquellen^]]
			[[en:Aufgaben:Exercise_1.1:_Entropy_of_the_Weather]]

Maintenance script: Join multi-line formulas for MW 1.43 parser compat

2026-02-24T13:38:17Z

Join multi-line formulas for MW 1.43 parser compat

← Nächstältere Version		Version vom 24. Februar 2026, 15:38 Uhr
Zeile 87:		Zeile 87:
	{{ML-Kopf}}		{{ML-Kopf}}
	'''(1)'''  Bei der Datei  &bdquo;Durchwachsen”  sind die beiden Wahrscheinlichkeiten gleich:   $p_{\rm B} = p_{\rm G} =0.5$.  Damit ergibt sich für die Entropie:		'''(1)'''  Bei der Datei  &bdquo;Durchwachsen”  sind die beiden Wahrscheinlichkeiten gleich:   $p_{\rm B} = p_{\rm G} =0.5$.  Damit ergibt sich für die Entropie:
	:$$H_{\rm D} = 0.5 \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{0.5} + 0.5 \cdot		:$$H_{\rm D} = 0.5 \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{0.5} + 0.5 \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{0.5} \hspace{0.15cm}\underline {= 1\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$
	{\rm log}_2\hspace{0.1cm}\frac{1}{0.5} \hspace{0.15cm}\underline {= 1\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$


	'''(2)'''  Mit  $p_{\rm B} = 0.8$  und  $p_{\rm G} =0.2$  erhält man einen kleineren Entropiewert:		'''(2)'''  Mit  $p_{\rm B} = 0.8$  und  $p_{\rm G} =0.2$  erhält man einen kleineren Entropiewert:
	:$$H_{\rm R} \hspace{-0.05cm}= \hspace{-0.05cm}0.8 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{4} \hspace{-0.05cm}+ \hspace{-0.05cm}0.2 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{1}\hspace{-0.05cm}=\hspace{-0.05cm}		:$$H_{\rm R} \hspace{-0.05cm}= \hspace{-0.05cm}0.8 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{4} \hspace{-0.05cm}+ \hspace{-0.05cm}0.2 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{1}\hspace{-0.05cm}=\hspace{-0.05cm} 0.8 \cdot{\rm log}_2\hspace{0.05cm}5\hspace{-0.05cm} - \hspace{-0.05cm}0.8 \cdot {\rm log}_2\hspace{0.05cm}4 \hspace{-0.05cm}+ \hspace{-0.05cm}0.2 \cdot {\rm log}_2 \hspace{0.05cm} 5 \hspace{-0.05cm}=\hspace{-0.05cm}{\rm log}_2\hspace{0.05cm}5\hspace{-0.05cm} -\hspace{-0.05cm} 0.8 \cdot {\rm log}_2\hspace{0.1cm}4\hspace{-0.05cm} = \hspace{-0.05cm} \frac{{\rm lg} \hspace{0.1cm}5}{{\rm lg}\hspace{0.1cm}2} \hspace{-0.05cm}-\hspace{-0.05cm} 1.6 \hspace{0.15cm} \underline {= 0.722\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$
	0.8 \cdot{\rm log}_2\hspace{0.05cm}5\hspace{-0.05cm} - \hspace{-0.05cm}0.8 \cdot {\rm log}_2\hspace{0.05cm}4 \hspace{-0.05cm}+ \hspace{-0.05cm}0.2 \cdot {\rm log}_2 \hspace{0.05cm} 5 \hspace{-0.05cm}=\hspace{-0.05cm}
	{\rm log}_2\hspace{0.05cm}5\hspace{-0.05cm} -\hspace{-0.05cm} 0.8 \cdot
	{\rm log}_2\hspace{0.1cm}4\hspace{-0.05cm} = \hspace{-0.05cm} \frac{{\rm lg} \hspace{0.1cm}5}{{\rm lg}\hspace{0.1cm}2} \hspace{-0.05cm}-\hspace{-0.05cm} 1.6 \hspace{0.15cm}
	\underline {= 0.722\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$


Zeile 104:		Zeile 99:

	'''(4)'''  Mit  $p_{\rm B} = 1/30$  und  $p_{\rm G} =29/30$  ergeben sich folgende Informationsgehalte:		'''(4)'''  Mit  $p_{\rm B} = 1/30$  und  $p_{\rm G} =29/30$  ergeben sich folgende Informationsgehalte:
	:$$I_{\rm B} \hspace{0.1cm} = \hspace{0.1cm} {\rm log}_2\hspace{0.1cm}30 =		:$$I_{\rm B} \hspace{0.1cm} = \hspace{0.1cm} {\rm log}_2\hspace{0.1cm}30 = \frac{{\rm lg}\hspace{0.1cm}30}{{\rm lg}\hspace{0.1cm}2} = \frac{1.477}{0.301} \hspace{0.15cm} \underline {= 4.907\,{\rm bit/Anfrage}}\hspace{0.05cm},$$
	\frac{{\rm lg}\hspace{0.1cm}30}{{\rm lg}\hspace{0.1cm}2} = \frac{1.477}{0.301} \hspace{0.15cm}		:$$I_{\rm G} \hspace{0.1cm} = \hspace{0.1cm} {\rm log}_2\hspace{0.1cm}\frac{30}{29} = \frac{{\rm lg}\hspace{0.1cm}1.034}{{\rm lg}\hspace{0.1cm}2} = \frac{1.477}{0.301} \hspace{0.15cm} \underline {= 0.049\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$
	\underline {= 4.907\,{\rm bit/Anfrage}}\hspace{0.05cm},$$
	:$$I_{\rm G} \hspace{0.1cm} = \hspace{0.1cm} {\rm log}_2\hspace{0.1cm}\frac{30}{29} =
	\frac{{\rm lg}\hspace{0.1cm}1.034}{{\rm lg}\hspace{0.1cm}2} = \frac{1.477}{0.301} \hspace{0.15cm}
	\underline {= 0.049\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$


	'''(5)'''  Die Entropie  $H_{\rm P}$  ist der mittlere Informationsgehalt der beiden Ereignisse  $\rm B$  und  $\rm G$:		'''(5)'''  Die Entropie  $H_{\rm P}$  ist der mittlere Informationsgehalt der beiden Ereignisse  $\rm B$  und  $\rm G$:
	:$$H_{\rm P} = \frac{1}{30} \cdot 4.907 + \frac{29}{30} \cdot 0.049 = 0.164 + 0.047		:$$H_{\rm P} = \frac{1}{30} \cdot 4.907 + \frac{29}{30} \cdot 0.049 = 0.164 + 0.047 \hspace{0.15cm} \underline {= 0.211\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$
	\hspace{0.15cm}
	\underline {= 0.211\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$
	*Obwohl  (genauer:  weil)  das Ereignis  $\rm B$  seltener auftritt als  $\rm G$, ist sein Beitrag zur Entropie größer.		*Obwohl  (genauer:  weil)  das Ereignis  $\rm B$  seltener auftritt als  $\rm G$, ist sein Beitrag zur Entropie größer.

Guenter am 28. Mai 2021 um 11:32 Uhr

2021-05-28T11:32:44Z

← Nächstältere Version		Version vom 28. Mai 2021, 13:32 Uhr
Zeile 13:		Zeile 13:
	:$$H = p_{\rm B} \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{p_{\rm B}} + p_{\rm G} \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{p_{\rm G}}$$		:$$H = p_{\rm B} \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{p_{\rm B}} + p_{\rm G} \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{p_{\rm G}}$$

	mit dem ~~<i>~~Logarithmus dualis~~</i>~~		mit dem &bdquo;Logarithmus dualis”
	:$${\rm log}_2\hspace{0.1cm}p=\frac{{\rm lg}\hspace{0.1cm}p}{{\rm lg}\hspace{0.1cm}2}\hspace{0.3cm} \left ( = {\rm ld}\hspace{0.1cm}p \right ) \hspace{0.05cm}.$$		:$${\rm log}_2\hspace{0.1cm}p=\frac{{\rm lg}\hspace{0.1cm}p}{{\rm lg}\hspace{0.1cm}2}\hspace{0.3cm} \left ( = {\rm ld}\hspace{0.1cm}p \right ) \hspace{0.05cm}.$$
	&bdquo;lg”  kennzeichnet hierbei den Logarithmus zur Basis  $10$.  Zu erwähnen ist ferner, dass jeweils noch die Pseudoeinheit  $\text{bit/Anfrage}$  anzufügen ist.		&bdquo;lg”  kennzeichnet hierbei den Logarithmus zur Basis  $10$.  Zu erwähnen ist ferner, dass jeweils noch die Pseudoeinheit  $\text{bit/Anfrage}$  anzufügen ist.

Guenter am 12. Dezember 2019 um 13:51 Uhr

2019-12-12T13:51:22Z

← Nächstältere Version		Version vom 12. Dezember 2019, 15:51 Uhr
Zeile 86:		Zeile 86:
	===Musterlösung===		===Musterlösung===
	{{ML-Kopf}}		{{ML-Kopf}}
	'''(1)'''  Bei der Datei &bdquo;Durchwachsen” sind die beiden Wahrscheinlichkeiten gleich:   $p_{\rm B} = p_{\rm G} =0.5$. Damit ergibt sich für die Entropie:		'''(1)'''  Bei der Datei  &bdquo;Durchwachsen”  sind die beiden Wahrscheinlichkeiten gleich:   $p_{\rm B} = p_{\rm G} =0.5$.  Damit ergibt sich für die Entropie:
	:$$H_{\rm D} = 0.5 \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{0.5} + 0.5 \cdot		:$$H_{\rm D} = 0.5 \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{0.5} + 0.5 \cdot
	{\rm log}_2\hspace{0.1cm}\frac{1}{0.5} \hspace{0.15cm}\underline {= 1\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$		{\rm log}_2\hspace{0.1cm}\frac{1}{0.5} \hspace{0.15cm}\underline {= 1\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$

	'''(2)'''  Mit $p_{\rm B} = 0.8$, und $p_{\rm G} =0.2$ erhält man einen kleineren Entropiewert:
			'''(2)'''  Mit  $p_{\rm B} = 0.8$  und  $p_{\rm G} =0.2$  erhält man einen kleineren Entropiewert:
	:$$H_{\rm R} \hspace{-0.05cm}= \hspace{-0.05cm}0.8 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{4} \hspace{-0.05cm}+ \hspace{-0.05cm}0.2 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{1}\hspace{-0.05cm}=\hspace{-0.05cm}		:$$H_{\rm R} \hspace{-0.05cm}= \hspace{-0.05cm}0.8 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{4} \hspace{-0.05cm}+ \hspace{-0.05cm}0.2 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{1}\hspace{-0.05cm}=\hspace{-0.05cm}
	0.8 \cdot{\rm log}_2\hspace{0.05cm}5\hspace{-0.05cm} - \hspace{-0.05cm}0.8 \cdot {\rm log}_2\hspace{0.05cm}4 \hspace{-0.05cm}+ \hspace{-0.05cm}0.2 \cdot {\rm log}_2 \hspace{0.05cm} 5 \hspace{-0.05cm}=\hspace{-0.05cm}		0.8 \cdot{\rm log}_2\hspace{0.05cm}5\hspace{-0.05cm} - \hspace{-0.05cm}0.8 \cdot {\rm log}_2\hspace{0.05cm}4 \hspace{-0.05cm}+ \hspace{-0.05cm}0.2 \cdot {\rm log}_2 \hspace{0.05cm} 5 \hspace{-0.05cm}=\hspace{-0.05cm}
Zeile 97:		Zeile 98:
	\underline {= 0.722\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$		\underline {= 0.722\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$

	'''(3)'''  In der Datei &bdquo;Angenehm” sind die Wahrscheinlichkeiten gegenüber der Datei &bdquo;Regenloch” genau vertauscht. Durch diese Vertauschung wird die Entropie jedoch nicht verändert:
			'''(3)'''  In der Datei  &bdquo;Angenehm”  sind die Wahrscheinlichkeiten gegenüber der Datei  &bdquo;Regenloch”  genau vertauscht.  Durch diese Vertauschung wird die Entropie jedoch nicht verändert:
	:$$H_{\rm A} = H_{\rm R} \hspace{0.15cm} \underline {= 0.722\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$		:$$H_{\rm A} = H_{\rm R} \hspace{0.15cm} \underline {= 0.722\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$

	'''(4)'''  Mit $p_{\rm B} = 1/30$ und $p_{\rm G} =29/30$ ergeben sich folgende Informationsgehalte:
			'''(4)'''  Mit  $p_{\rm B} = 1/30$  und  $p_{\rm G} =29/30$  ergeben sich folgende Informationsgehalte:
	:$$I_{\rm B} \hspace{0.1cm} = \hspace{0.1cm} {\rm log}_2\hspace{0.1cm}30 =		:$$I_{\rm B} \hspace{0.1cm} = \hspace{0.1cm} {\rm log}_2\hspace{0.1cm}30 =
	\frac{{\rm lg}\hspace{0.1cm}30}{{\rm lg}\hspace{0.1cm}2} = \frac{1.477}{0.301} \hspace{0.15cm}		\frac{{\rm lg}\hspace{0.1cm}30}{{\rm lg}\hspace{0.1cm}2} = \frac{1.477}{0.301} \hspace{0.15cm}
Zeile 108:		Zeile 111:
	\underline {= 0.049\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$		\underline {= 0.049\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$

	'''(5)'''  Die Entropie $H_{\rm P}$ ist der mittlere Informationsgehalt der beiden Ereignisse $\rm B$ und $\rm G$:
			'''(5)'''  Die Entropie  $H_{\rm P}$  ist der mittlere Informationsgehalt der beiden Ereignisse  $\rm B$  und  $\rm G$:
	:$$H_{\rm P} = \frac{1}{30} \cdot 4.907 + \frac{29}{30} \cdot 0.049 = 0.164 + 0.047		:$$H_{\rm P} = \frac{1}{30} \cdot 4.907 + \frac{29}{30} \cdot 0.049 = 0.164 + 0.047
	\hspace{0.15cm}		\hspace{0.15cm}
	\underline {= 0.211\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$		\underline {= 0.211\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$
	Obwohl das Ereignis $\rm B$ seltener auftritt als $\rm G$, ist sein Beitrag zur Entropie größer.		*Obwohl  (genauer:  weil)  das Ereignis  $\rm B$  seltener auftritt als  $\rm G$, ist sein Beitrag zur Entropie größer.


	'''(6)'''  Richtig sind die <u>Aussagen 1 und 3</u>:		'''(6)'''  Richtig sind die <u>Aussagen 1 und 3</u>:
	*~~Die Ereignisse~~ $\rm B$ und $\rm G$ sind bei der Datei &bdquo;Unbekannt” tatsächlich gleichwahrscheinlich:   Die $60$ dargestellten Symbole teilen sich auf in $30$ mal $\rm B$ und $30$ mal $\rm G$.		*$\rm B$  und  $\rm G$  sind bei der Datei &bdquo;Unbekannt” tatsächlich gleichwahrscheinlich:   Die  $60$  dargestellten Symbole teilen sich auf in  $30$ mal  $\rm B$  und  $30$ mal  $\rm G$.
	*Es bestehen nun aber starke statistische Bindungen innerhalb der zeitlichen Folge. Nach längeren Schönwetterperioden folgen meist viele schlechte Tage am Stück.		*Es bestehen nun aber starke statistische Bindungen innerhalb der zeitlichen Folge.  Nach längeren Schönwetterperioden folgen meist viele schlechte Tage am Stück.
	*Aufgrund dieser statistischen Abhängigkeit innerhalb der $\rm B/G$–Folge ist $H_\text{U} = 0.722 \; \rm bit/Anfrage$ kleiner als $H_\text{D} = 1 \; \rm bit/Anfrage$.		*Aufgrund dieser statistischen Abhängigkeit innerhalb der  $\rm B/G$–Folge ist  $H_\text{U} = 0.722 \; \rm bit/Anfrage$  kleiner als  $H_\text{D} = 1 \; \rm bit/Anfrage$.
	*$H_\text{D}$ ist gleichzeitig das Maximum für $M = 2$   ⇒   die letzte Aussage ist mit Sicherheit falsch.		*$H_\text{D}$  ist gleichzeitig das Maximum für  $M = 2$   ⇒   die letzte Aussage ist mit Sicherheit falsch.
	{{ML-Fuß}}		{{ML-Fuß}}

Guenter am 12. Dezember 2019 um 13:37 Uhr

2019-12-12T13:37:36Z

← Nächstältere Version		Version vom 12. Dezember 2019, 15:37 Uhr
Zeile 4:		Zeile 4:

	[[Datei:Inf_A_1_1_vers2.png\|right\|frame\|Fünf verschiedene Binärquellen]]		[[Datei:Inf_A_1_1_vers2.png\|right\|frame\|Fünf verschiedene Binärquellen]]
	Eine Wetterstation fragt täglich verschiedene Regionen ab und bekommt als Antwort jeweils eine Meldung $x$ zurück, nämlich		Eine Wetterstation fragt täglich verschiedene Regionen ab und bekommt als Antwort jeweils eine Meldung  $x$  zurück, nämlich

	* $x = \rm B$:   Das Wetter ist eher schlecht.		* $x = \rm B$:   Das Wetter ist eher schlecht.
Zeile 10:		Zeile 10:


	Die Daten wurden über viele Jahre für verschiedene Gebiete in Dateien abgelegt, so dass die Entropien der $\rm B/G$–Folgen ermittelt werden können:		Die Daten wurden über viele Jahre für verschiedene Gebiete in Dateien abgelegt, so dass die Entropien der  $\rm B/G$–Folgen ermittelt werden können:
	:$$H = p_{\rm B} \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{p_{\rm B}} + p_{\rm G} \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{p_{\rm G}}$$		:$$H = p_{\rm B} \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{p_{\rm B}} + p_{\rm G} \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{p_{\rm G}}$$

	mit dem <i>Logarithmus dualis</i>		mit dem <i>Logarithmus dualis</i>
	:$${\rm log}_2\hspace{0.1cm}p=\frac{{\rm lg}\hspace{0.1cm}p}{{\rm lg}\hspace{0.1cm}2}\hspace{0.3cm} \left ( = {\rm ld}\hspace{0.1cm}p \right ) \hspace{0.05cm}.$$		:$${\rm log}_2\hspace{0.1cm}p=\frac{{\rm lg}\hspace{0.1cm}p}{{\rm lg}\hspace{0.1cm}2}\hspace{0.3cm} \left ( = {\rm ld}\hspace{0.1cm}p \right ) \hspace{0.05cm}.$$
	$\lg$ kennzeichnet hierbei den Logarithmus zur Basis $10$. Zu erwähnen ist ferner, dass jeweils noch die Pseudoeinheit $\text{bit/Anfrage}$ anzufügen ist.		&bdquo;lg”  kennzeichnet hierbei den Logarithmus zur Basis  $10$.  Zu erwähnen ist ferner, dass jeweils noch die Pseudoeinheit  $\text{bit/Anfrage}$  anzufügen ist.

	Die Grafik zeigt diese binären Folgen jeweils für $60$ Tage und folgende Regionen:		Die Grafik zeigt diese binären Folgen jeweils für  $60$  Tage und folgende Regionen:

	* Region &bdquo;Durchwachsen”:    $p_{\rm B} = p_{\rm G} =0.5$,		* Region &bdquo;Durchwachsen”:    $p_{\rm B} = p_{\rm G} =0.5$,
Zeile 26:		Zeile 26:

	Schließlich ist auch noch die Datei &bdquo;Unbekannt” angegeben, deren statistische Eigenschaften zu schätzen sind.		Schließlich ist auch noch die Datei &bdquo;Unbekannt” angegeben, deren statistische Eigenschaften zu schätzen sind.





Zeile 32:		Zeile 35:

	''Hinweise:''		''Hinweise:''
	*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Gedächtnislose_Nachrichtenquellen\|Gedächtnislose Nachrichtenquellen]].		*Die Aufgabe gehört zum Kapitel  [[Informationstheorie/Gedächtnislose_Nachrichtenquellen\|Gedächtnislose Nachrichtenquellen]].

	*Für die vier ersten Dateien wird vorausgesetzt, dass die Ereignisse $\rm B$ und $\rm G$ statistisch unabhängig seien, eine für die Wetterpraxis eher unrealistische Annahme.		*Für die vier ersten Dateien wird vorausgesetzt, dass die Ereignisse  $\rm B$  und  $\rm G$  statistisch unabhängig seien, eine für die Wetterpraxis eher unrealistische Annahme.

			*Die Aufgabe wurde zu einer Zeit konzipiert, als  [https://de.wikipedia.org/wiki/Greta_Thunberg Greta]  gerade in die Schule kam.  Wir überlassen es Ihnen, &bdquo;Paradies” in &bdquo;Hölle” umzubenennen.


Zeile 42:		Zeile 47:

	<quiz display=simple>		<quiz display=simple>
	{Welche Entropie $H_{\rm D}$ weist die Datei "Durchwachsen" auf?		{Welche Entropie  $H_{\rm D}$  weist die Datei  &bdquo;Durchwachsen"  auf?
	\|type="{}"}		\|type="{}"}
	$H_{\rm D}\ = \ $ { 1 3% } $\ \rm bit/Anfrage$		$H_{\rm D}\ = \ $ { 1 3% } $\ \rm bit/Anfrage$


	{Welche Entropie $H_{\rm R}$ weist die Datei &bdquo;Regenloch” auf?		{Welche Entropie  $H_{\rm R}$  weist die Datei  &bdquo;Regenloch”  auf?
	\|type="{}"}		\|type="{}"}
	$H_{\rm R}\ = \ $ { 0.722 3% } $\ \rm bit/Anfrage$		$H_{\rm R}\ = \ $ { 0.722 3% } $\ \rm bit/Anfrage$


	{Welche Entropie $H_{\rm A}$ weist die Datei &bdquo;Angenehm” auf?		{Welche Entropie  $H_{\rm A}$  weist die Datei  &bdquo;Angenehm”  auf?
	\|type="{}"}		\|type="{}"}
	$H_{\rm A}\ = \ $ { 0.722 3% } $\ \rm bit/Anfrage$		$H_{\rm A}\ = \ $ { 0.722 3% } $\ \rm bit/Anfrage$


	{Wie groß sind die Informationsgehalte der Ereignisse $\rm B$ und $\rm G$ bezogen auf die Datei &bdquo;Paradies”?		{Wie groß sind die Informationsgehalte der Ereignisse  $\rm B$  und  $\rm G$  bezogen auf die Datei  &bdquo;Paradies”?
	\|type="{}"}		\|type="{}"}
	$I_{\rm B}\ = \ $ { 4.907 3% } $\ \rm bit/Anfrage$		$I_{\rm B}\ = \ $ { 4.907 3% } $\ \rm bit/Anfrage$
Zeile 63:		Zeile 68:


	{Wie groß ist die Entropie (das heißt: der mittlere Informationsgehalt) $H_{\rm P}$ der Datei &bdquo;Paradies”? ~~<br>~~Interpretieren Sie das Ergebnis?		{Wie groß ist die Entropie  (das heißt:  der mittlere Informationsgehalt)  $H_{\rm P}$  der Datei  &bdquo;Paradies”?  Interpretieren Sie das Ergebnis?
	\|type="{}"}		\|type="{}"}
	$H_{\rm P}\ = \ $ { 0.211 3% } $\ \rm bit/Anfrage$		$H_{\rm P}\ = \ $ { 0.211 3% } $\ \rm bit/Anfrage$


	{Welche Aussagen könnten für die Datei &bdquo;Unbekannt” gelten?		{Welche Aussagen könnten für die Datei  &bdquo;Unbekannt”  gelten?
	\|type="[]"}		\|type="[]"}
	+ Die Ereignisse $\rm B$ und $\rm G$ sind etwa gleichwahrscheinlich.		+ Die Ereignisse  $\rm B$  und  $\rm G$  sind etwa gleichwahrscheinlich.
	- Die Folgenelemente sind statistisch voneinander unabhängig.		- Die Folgenelemente sind statistisch voneinander unabhängig.
	+ Die Entropie dieser Datei ist $H_\text{U} \approx 0.7 \; \rm bit/Anfrage$.		+ Die Entropie dieser Datei ist  $H_\text{U} \approx 0.7 \; \rm bit/Anfrage$.
	- Die Entropie dieser Datei ist $H_\text{U} = 1.5 \; \rm bit/Anfrage$.		- Die Entropie dieser Datei ist  $H_\text{U} = 1.5 \; \rm bit/Anfrage$.

Guenter am 18. September 2018 um 09:11 Uhr

2018-09-18T09:11:44Z

← Nächstältere Version		Version vom 18. September 2018, 11:11 Uhr
Zeile 81:		Zeile 81:
	===Musterlösung===		===Musterlösung===
	{{ML-Kopf}}		{{ML-Kopf}}
	'''(1)'''  Bei der Datei &bdquo;Durchwachsen” sind die beiden Wahrscheinlichkeiten gleich: $p_{\rm B} = p_{\rm G} =0.5$. Damit ergibt sich für die Entropie:		'''(1)'''  Bei der Datei &bdquo;Durchwachsen” sind die beiden Wahrscheinlichkeiten gleich:   $p_{\rm B} = p_{\rm G} =0.5$. Damit ergibt sich für die Entropie:
	:$$H_{\rm D} = 0.5 \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{0.5} + 0.5 \cdot		:$$H_{\rm D} = 0.5 \cdot {\rm log}_2\hspace{0.1cm}\frac{1}{0.5} + 0.5 \cdot
	{\rm log}_2\hspace{0.1cm}\frac{1}{0.5} \hspace{0.15cm}\underline {= 1\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$		{\rm log}_2\hspace{0.1cm}\frac{1}{0.5} \hspace{0.15cm}\underline {= 1\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$
Zeile 111:		Zeile 111:

	'''(6)'''  Richtig sind die <u>Aussagen 1 und 3</u>:		'''(6)'''  Richtig sind die <u>Aussagen 1 und 3</u>:
	*Die Ereignisse $\rm B$ und $\rm G$ sind bei der Datei &bdquo;Unbekannt” tatsächlich gleichwahrscheinlich: Die 60 dargestellten Symbole teilen sich auf in 30 mal $\rm B$ und 30 mal& $\rm GB$.		*Die Ereignisse $\rm B$ und $\rm G$ sind bei der Datei &bdquo;Unbekannt” tatsächlich gleichwahrscheinlich:   Die $60$ dargestellten Symbole teilen sich auf in $30$ mal $\rm B$ und $30$ mal $\rm G$.
	*Es bestehen nun aber starke statistische Bindungen innerhalb der zeitlichen Folge. Nach längeren Schönwetterperioden folgen meist viele schlechte Tage am Stück.		*Es bestehen nun aber starke statistische Bindungen innerhalb der zeitlichen Folge. Nach längeren Schönwetterperioden folgen meist viele schlechte Tage am Stück.
	*Aufgrund dieser statistischen Abhängigkeit innerhalb der $\rm B/G$~~–Folgen~~–Folge ist $H_\text{U} = 0.72 \; \rm bit/Anfrage$ kleiner als $H_\text{D} = 1 \; \rm bit/Anfrage$.		*Aufgrund dieser statistischen Abhängigkeit innerhalb der $\rm B/G$–Folge ist $H_\text{U} = 0.722 \; \rm bit/Anfrage$ kleiner als $H_\text{D} = 1 \; \rm bit/Anfrage$.
	*$H_\text{D}$ ist gleichzeitig das Maximum für $M = 2$   ⇒   die letzte Aussage ist mit Sicherheit falsch.		*$H_\text{D}$ ist gleichzeitig das Maximum für $M = 2$   ⇒   die letzte Aussage ist mit Sicherheit falsch.
	{{ML-Fuß}}		{{ML-Fuß}}

Guenter am 18. September 2018 um 09:04 Uhr

2018-09-18T09:04:38Z

← Nächstältere Version		Version vom 18. September 2018, 11:04 Uhr
Zeile 3:		Zeile 3:
	}}		}}

	[[Datei:Inf_A_1_1_vers2.png\|right\|~~Verschiedene~~ Binärquellen]]		[[Datei:Inf_A_1_1_vers2.png\|right\|frame\|Fünf verschiedene Binärquellen]]
	Eine Wetterstation fragt täglich verschiedene Regionen ab und bekommt als Antwort jeweils eine Meldung $x$ zurück, nämlich		Eine Wetterstation fragt täglich verschiedene Regionen ab und bekommt als Antwort jeweils eine Meldung $x$ zurück, nämlich

	* $x = \rm B$: Das Wetter ist eher schlecht.		* $x = \rm B$:   Das Wetter ist eher schlecht.
	* $x = \rm G$: Das Wetter ist eher gut.		* $x = \rm G$:   Das Wetter ist eher gut.


Zeile 15:		Zeile 15:
	mit dem <i>Logarithmus dualis</i>		mit dem <i>Logarithmus dualis</i>
	:$${\rm log}_2\hspace{0.1cm}p=\frac{{\rm lg}\hspace{0.1cm}p}{{\rm lg}\hspace{0.1cm}2}\hspace{0.3cm} \left ( = {\rm ld}\hspace{0.1cm}p \right ) \hspace{0.05cm}.$$		:$${\rm log}_2\hspace{0.1cm}p=\frac{{\rm lg}\hspace{0.1cm}p}{{\rm lg}\hspace{0.1cm}2}\hspace{0.3cm} \left ( = {\rm ld}\hspace{0.1cm}p \right ) \hspace{0.05cm}.$$
	~~&bdquo;~~lg~~”~~ kennzeichnet hierbei den Logarithmus zur Basis 10. Zu erwähnen ist ferner, dass jeweils noch die Pseudoeinheit ~~&bdquo;~~bit/Anfrage~~”~~ anzufügen ist.		$\lg$ kennzeichnet hierbei den Logarithmus zur Basis $10$. Zu erwähnen ist ferner, dass jeweils noch die Pseudoeinheit $\text{bit/Anfrage}$ anzufügen ist.

	Die Grafik zeigt diese binären Folgen jeweils für 60 Tage und folgende Regionen:		Die Grafik zeigt diese binären Folgen jeweils für $60$ Tage und folgende Regionen:

	* Region &bdquo;Durchwachsen”:    $p_{\rm B} = p_{\rm G} =0.5$,		* Region &bdquo;Durchwachsen”:    $p_{\rm B} = p_{\rm G} =0.5$,
Zeile 26:		Zeile 26:

	Schließlich ist auch noch die Datei &bdquo;Unbekannt” angegeben, deren statistische Eigenschaften zu schätzen sind.		Schließlich ist auch noch die Datei &bdquo;Unbekannt” angegeben, deren statistische Eigenschaften zu schätzen sind.





Zeile 31:		Zeile 34:
	*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Gedächtnislose_Nachrichtenquellen\|Gedächtnislose Nachrichtenquellen]].		*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Gedächtnislose_Nachrichtenquellen\|Gedächtnislose Nachrichtenquellen]].

	*Für die vier ersten Dateien wird vorausgesetzt, dass die Ereignisse $\rm B$ und $\rm G$ statistisch unabhängig seien, eine für die Wetterpraxis ~~allerdings~~ eher unrealistische Annahme.		*Für die vier ersten Dateien wird vorausgesetzt, dass die Ereignisse $\rm B$ und $\rm G$ statistisch unabhängig seien, eine für die Wetterpraxis eher unrealistische Annahme.




Zeile 39:		Zeile 44:
	{Welche Entropie $H_{\rm D}$ weist die Datei "Durchwachsen" auf?		{Welche Entropie $H_{\rm D}$ weist die Datei "Durchwachsen" auf?
	\|type="{}"}		\|type="{}"}
	$H_{\rm D}\ = $ { 1 3% } $\ \rm bit/Anfrage$		$H_{\rm D}\ = \ $ { 1 3% } $\ \rm bit/Anfrage$


	{Welche Entropie $H_{\rm RD}$ weist die Datei &bdquo;Regenloch” auf?		{Welche Entropie $H_{\rm R}$ weist die Datei &bdquo;Regenloch” auf?
	\|type="{}"}		\|type="{}"}
	$H_{\rm R}\ = $ { 0.722 3% } $\ \rm bit/Anfrage$		$H_{\rm R}\ = \ $ { 0.722 3% } $\ \rm bit/Anfrage$


	{Welche Entropie $H_{\rm A}$ weist die Datei &bdquo;Angenehm” auf?		{Welche Entropie $H_{\rm A}$ weist die Datei &bdquo;Angenehm” auf?
	\|type="{}"}		\|type="{}"}
	$H_{\rm A}\ = $ { 0.722 3% } $\ \rm bit/Anfrage$		$H_{\rm A}\ = \ $ { 0.722 3% } $\ \rm bit/Anfrage$


	{Wie groß sind die Informationsgehalte der Ereignisse $\rm B$ und $\rm G$ bezogen auf die Datei &bdquo;Paradies”?		{Wie groß sind die Informationsgehalte der Ereignisse $\rm B$ und $\rm G$ bezogen auf die Datei &bdquo;Paradies”?
	\|type="{}"}		\|type="{}"}
	$I_{\rm B}\ = $ { 4.907 3% } $\ \rm bit/Anfrage$		$I_{\rm B}\ = \ $ { 4.907 3% } $\ \rm bit/Anfrage$
	$I_{\rm G}\ = $ { 0.049 3% } $\ \rm bit/Anfrage$		$I_{\rm G}\ = \ $ { 0.049 3% } $\ \rm bit/Anfrage$


	{Wie groß ist die Entropie (das heißt: der mittlere Informationsgehalt) $H_{\rm P}$ der Datei &bdquo;Paradies”? Interpretieren Sie das Ergebnis?		{Wie groß ist die Entropie (das heißt: der mittlere Informationsgehalt) $H_{\rm P}$ der Datei &bdquo;Paradies”? <br>Interpretieren Sie das Ergebnis?
	\|type="{}"}		\|type="{}"}
	$H_{\rm P}\ = $ { 0.211 3% } $\ \rm bit/Anfrage$		$H_{\rm P}\ = \ $ { 0.211 3% } $\ \rm bit/Anfrage$

Mwiki-lnt: Textersetzung - „*Sollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0.” ein.“ durch „ “

2018-05-29T12:02:34Z

Textersetzung - „*Sollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0.” ein.“ durch „ “

← Nächstältere Version		Version vom 29. Mai 2018, 14:02 Uhr
Zeile 30:		Zeile 30:
	''Hinweise:''		''Hinweise:''
	*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Gedächtnislose_Nachrichtenquellen\|Gedächtnislose Nachrichtenquellen]].		*Die Aufgabe gehört zum Kapitel [[Informationstheorie/Gedächtnislose_Nachrichtenquellen\|Gedächtnislose Nachrichtenquellen]].
	*Sollte die Eingabe des Zahlenwertes &bdquo;0” erforderlich sein, so geben Sie bitte &bdquo;0.” ein.
	*Für die vier ersten Dateien wird vorausgesetzt, dass die Ereignisse $\rm B$ und $\rm G$ statistisch unabhängig seien, eine für die Wetterpraxis allerdings eher unrealistische Annahme.		*Für die vier ersten Dateien wird vorausgesetzt, dass die Ereignisse $\rm B$ und $\rm G$ statistisch unabhängig seien, eine für die Wetterpraxis allerdings eher unrealistische Annahme.

Guenter: Guenter verschob die Seite Aufgaben:1.1 Wetterentropie nach Aufgaben:Aufgabe 1.1: Wetterentropie

2018-01-03T13:53:10Z

Guenter verschob die Seite Aufgaben:1.1 Wetterentropie nach Aufgaben:Aufgabe 1.1: Wetterentropie

← Nächstältere Version		Version vom 3. Januar 2018, 15:53 Uhr
(kein Unterschied)

Guenter am 25. April 2017 um 14:00 Uhr

2017-04-25T14:00:52Z

← Nächstältere Version		Version vom 25. April 2017, 16:00 Uhr
Zeile 80:		Zeile 80:
	{\rm log}_2\hspace{0.1cm}\frac{1}{0.5} \hspace{0.15cm}\underline {= 1\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$		{\rm log}_2\hspace{0.1cm}\frac{1}{0.5} \hspace{0.15cm}\underline {= 1\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$

	'''(2)'''  Mit $p_{\rm B} = 0.$, und $p_{\rm G} =0.2$ erhält man einen kleineren Entropiewert:		'''(2)'''  Mit $p_{\rm B} = 0.8$, und $p_{\rm G} =0.2$ erhält man einen kleineren Entropiewert:
	:$$H_{\rm R} = 0.8 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{4} + 0.2 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{1}=		:$$H_{\rm R} \hspace{-0.05cm}= \hspace{-0.05cm}0.8 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{4} \hspace{-0.05cm}+ \hspace{-0.05cm}0.2 \cdot {\rm log}_2\hspace{0.05cm}\frac{5}{1}\hspace{-0.05cm}=\hspace{-0.05cm}
	0.8 \cdot{\rm log}_2\hspace{0.05cm}5 - 0.8 \cdot {\rm log}_2\hspace{0.05cm}4 + 0.2 \cdot {\rm log}_2 \hspace{0.05cm} 5 =		0.8 \cdot{\rm log}_2\hspace{0.05cm}5\hspace{-0.05cm} - \hspace{-0.05cm}0.8 \cdot {\rm log}_2\hspace{0.05cm}4 \hspace{-0.05cm}+ \hspace{-0.05cm}0.2 \cdot {\rm log}_2 \hspace{0.05cm} 5 \hspace{-0.05cm}=\hspace{-0.05cm}
	{\rm log}_2\hspace{0.05cm}5 - 0.8 \cdot		{\rm log}_2\hspace{0.05cm}5\hspace{-0.05cm} -\hspace{-0.05cm} 0.8 \cdot
	{\rm log}_2\hspace{0.1cm}4 = \frac{{\rm lg} \hspace{0.1cm}5}{{\rm lg}\hspace{0.1cm}2} - 1.6 \hspace{0.15cm}		{\rm log}_2\hspace{0.1cm}4\hspace{-0.05cm} = \hspace{-0.05cm} \frac{{\rm lg} \hspace{0.1cm}5}{{\rm lg}\hspace{0.1cm}2} \hspace{-0.05cm}-\hspace{-0.05cm} 1.6 \hspace{0.15cm}
	\underline {= 0.722\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$		\underline {= 0.722\,{\rm bit/Anfrage}}\hspace{0.05cm}.$$