Aufgabe 4.3Z: Umrechnungen von L–Wert und S–Wert
Wir gehen von einer binären Zufallsgröße $x ∈ \{+1, \, –1\}$ mit folgenden Wahrscheinlichkeiten aus:
- $${\rm Pr}(x =+1) \hspace{-0.15cm} \ = \ \hspace{-0.15cm} p\hspace{0.05cm},$$
- $${\rm Pr}(x =-1) \hspace{-0.15cm} \ = \ \hspace{-0.15cm} q = 1-p\hspace{0.05cm}.$$
Die „Zuverlässigkeit” des Symbols $x$ kann ausgedrückt werden
- durch den $L$–Wert entsprechend der Definition
- $$L(x) = {\rm ln} \hspace{0.2cm} \frac{p}{q} = \frac{p}{1 - p}\hspace{0.05cm} \hspace{0.05cm},$$
- durch den so genannten $S$–Wert
- $$S(x) = p- q \hspace{0.05cm}.$$
Den Begriff „$S$–Wert” haben wir kreiert, um die folgenden Fragen griffiger formulieren zu können. In der Literatur findet man hierfür manchmal die Bezeichung „Soft Bit”.
Wie in Teilaufgabe (1) gezeigt werden soll, können $L(x)$ und $S(x)$ ineinander umgerechnet werden.
Anschließend sollen diese Funktionen zur Berechnung der folgenden Größen berechnet werden, wobei stets von der Codelänge $n = 3$ ausgegangen wird:
- der extrinsische $L$–Wert für das dritte Symbol ⇒ $L_{\rm E}(x_3)$,
- der Aposteriori–$L$–Wert für das dritte Symbol ⇒ $L_{\rm APP}(x_3)$.
Die Berechnung soll für folgende Codes erfolgen:
- dem Wiederholungscode ⇒ RC (3, 1) mit der Nebenbedingung $\sign {(x_1)} = \sign {(x_2)} = \sign {(x_3)}$,
- dem Single Parity–check Code ⇒ SPC (3, 2) mit der Nebenbedingung $x_1 \cdot x_2 \cdot x_3 = +1$.
Hinweise:
- Die Aufgabe gehört zum Kapitel Soft–in Soft–out Decoder.
- Zur Lösung benötigen Sie den Tangens Hyperbolikus entsprechend folgender Definition:
- $$y = {\rm tanh}(x) = \frac{{\rm e}^{+x/2} - {\rm e}^{-x/2}}{{\rm e}^{+x/2} + {\rm e}^{-x/2}} = \frac{1 - {\rm e}^{-x}}{1 + {\rm e}^{-x}} \hspace{0.05cm}.$$
- Diese Funktion ist oben in Tabellenform angegeben.
- Sollte die Eingabe des Zahlenwertes „0” erforderlich sein, so geben Sie bitte „0.” ein.
Fragebogen
Musterlösung
- $p = {\rm Pr}(x = +1)$, und
- $p = {\rm Pr}(x=-1) = 1-p$
gelten folgende Definitionen:
- $$L(x) = {\rm ln} \hspace{0.2cm} \frac{p}{q} = \frac{p}{1 - p}\hspace{0.05cm} \hspace{0.3cm} \Rightarrow \hspace{0.3cm} -\infty \le L(x) \le +\infty \hspace{0.05cm},$$
- $$S(x) = p- q = 2 \cdot p - 1\hspace{0.05cm} \hspace{0.3cm} \Rightarrow \hspace{0.3cm} -1 \le S(x) \le +1 \hspace{0.05cm}.$$
Ausgehend vom $S$–Wert erhält man wegen $p + q = 1$:
- $$S(x) = p- q = \frac{p- q}{p+ q} = \frac{1- q/p}{1+ q/p} \hspace{0.05cm}.$$
Gleichzeitig gilt $q/p = \exp {(-L(x))}$. Daraus folgt:
- $$S(x) = \frac{1- {\rm e}^{-L(x)}}{1+ {\rm e}^{-L(x)}} \hspace{0.05cm}.$$
Multipliziert man Zähler und Nenner mit $\exp {[-L(x)/2]}$, so erhält man schließlich:
- $$S(x) = \frac{{\rm e}^{+L(x)/2}- {\rm e}^{-L(x)/2}}{{\rm e}^{+L(x)/2}+ {\rm e}^{-L(x)/2}} = {\rm tanh}[L(x)/2] \hspace{0.05cm}.$$
Die Umkehrfunktion ergibt
- $$L(x) = 2 \cdot {\rm tanh}^{-1}[S(x)] \hspace{0.05cm}.$$
Richtig sind somit die Lösungsvorschläge 2 und 3.
Die Tabelle zeigt den $L$–Wert sowie den $S$–Wert für einige Wahrscheinlichkeiten $p = {\rm Pr}(x=+1)$.
(2) Der extrinsische $L$–Wert für das Symbol $x_3$ berücksichtigt nur die Apriori–$L$–Werte $L_{\rm A}(x_1)$ und $L_{\rm A}(x_2)$, nicht jedoch $L_{\rm A}(x_3)$. Beim (3, 1) Repetition Code ergibt sich hierfür:
- $$L_{\rm E}(x_3) = L_{\rm A}(x_1) + L_{\rm A}(x_2) = 2 + (-1) \hspace{0.15cm} \underline{= +1}\hspace{0.05cm}.$$
(3) Für den Aposteriori–$L$–Wert erhält man somit:
- $$L_{\rm APP}(x_3) = L_{\rm A}(x_3) + L_{\rm E}(x_3) = 3 + 1 \hspace{0.15cm} \underline{= +4}\hspace{0.05cm}.$$
(4) Hier lautet die entsprechende Berechnungsvorschrift:
- $$L_{\rm E}(x_3) \hspace{-0.15cm} \ = \ \hspace{-0.15cm} 2 \cdot {\rm tanh}^{-1} \hspace{0.05cm} \left [ {\rm tanh}(x_1/2) \cdot {\rm tanh}(x_2/2) \right ] = $$
- $$\hspace{1.4cm} = \ \hspace{-0.15cm} 2 \cdot {\rm tanh}^{-1} \hspace{0.05cm} \left [ {\rm tanh}(+1) \cdot {\rm tanh}(-0.5) \right ] = 2 \cdot {\rm tanh}^{-1} \hspace{0.05cm} \left [ 0.7616 \cdot (-0.4621) \right ] =$$
- $$\hspace{1.4cm} = \ \hspace{-0.15cm}2 \cdot {\rm tanh}^{-1} \hspace{0.05cm} \left [ -0.3519 \right ] =-2 \cdot 0.3676\hspace{0.15cm} \underline{= -0.7352}\hspace{0.05cm}.$$
Das Endergebnis wurde der Tabelle auf der Angabenseite entnommen.
(5) Beim Wiederholungscode der Länge $n = 3$ gilt wie in der Teilaufgabe (3): Vorzeichen?
- $$L_{\rm E}(x_3) = L_{\rm A}(x_1) + L_{\rm A}(x_2) = -0.847 +1.382 \hspace{0.15cm} \underline{= +0.535}\hspace{0.05cm}.$$
Benutzt wurden hierbei die $L$–Werte entsprechend der Tabelle zur Teilaufgabe (1).
(6) Nachdem hier anstelle der Apriori–$L$–Werte die Apriori–Wahrscheinlichkeiten gegeben sind, kommt man gegenüber der Teilaufgabe (4) auf dem Umweg über den extrinsischen $S$–Wert schneller zum Erfolg.
Die extrinsische Wahrscheinlichkeit für das dritte Symbol bezeichnen wir hier mit $P_{\rm E}(x_3)$. Für diese gilt:
- $$P_{\rm E}(x_3 = +1) \hspace{-0.15cm} \ = \ \hspace{-0.15cm} P_{\rm A}(x_1 = +1) \cdot P_{\rm A}(x_2 = -1) + P_{\rm A}(x_1 = -1) \cdot P_{\rm A}(x_2 = +1) = $$
- $$\hspace{2.3cm} \ = \ \hspace{-0.15cm} 0.3 \cdot (1-0.8) + (1-0.3) \cdot 0.8 = 0.62\hspace{0.05cm}.$$
Daraus ergeben sich für die weiteren Größen:
- $$S_{\rm E}(x_3) = P_{\rm E}(x_3 = +1) - P_{\rm E}(x_3 = - 1) = 0.62 -0.38 = 0.24\hspace{0.05cm},$$
- $$L_{\rm E}(x_3) = 2 \cdot {\rm tanh}^{-1} \hspace{0.05cm} \left [ S_{\rm E}(x_3) \right ] = 2 \cdot {\rm tanh}^{-1} \hspace{0.05cm} (0.24) = 2 \cdot 0.245 \hspace{0.15cm} \underline{= +0.49}\hspace{0.05cm}$$