Aufgabe 3.8Z: Tupel aus ternären Zufallsgrößen

Aus LNTwww
Wechseln zu:Navigation, Suche

P ID2771 Inf Z 3 7.png

Wir betrachten das Tupel $Z = (X, Y)$, wobei die Einzelkomponenten $X$ und $Y$ jeweils ternäre Zufallsgrößen darstellen $\Rightarrow$ Symbolumfang $|X| = |Y| = 3$. Die gemeinsame Wahrscheinlichkeitsfunktion $P_{ XY }(X, Y)$ ist rechts angegeben.

In dieser Aufgabe sind zu berechnen:

  • die Verbundentropie $H(XY)$ und die Transinformation $I(X; Y)$,
  • die Verbundentropie $H(XZ)$ und die Transinformation $I(X; Z)$,
  • die bedingten Entropien $H(Z|X)$ und $H(X|Z)$.

Hinweis: Die Aufgabe bezieht sich auf das Themengebiet von Kapitel 3.2.


Fragebogen

1

Berechnen Sie die folgenden Entropien.

$H(X)$ =

$bit$
$H(Y)$ =

$bit$
$ H(XY)$ =

$bit$

2

Welche Transinformationen besteht zwischen den Zufallsgrößen $X$ und $Y$?

$I(X; Y)$ =

$bit$

3

Welche Transinformationen besteht zwischen den Zufallsgrößen $X$ und $Z$?

$I(X; Z)$ =

$bit$

4

Welche bedingten Entropien bestehen zwischen $X$ und $Z$?

$H(Z|X)$ =

$bit$
$ H(X|Z)$ =

$bit$


Musterlösung

1. 2. 3. 4. 5. 6. 7.