Die Grafik zeigt die Störabstände 10 · lg ρd (als Maß für die mittlere Fehlerwahrscheinlichkeit pS) sowie 10 · lg ρU (als Maß für die ungünstigste Fehlerwahrscheinlichkeit pU) in Abhängigkeit der Grenzfrequenz fG des gaußförmigen Gesamtfrequenzgangs HG(f) = HK(f) · HE(f). Dieses Bild gilt für
einen koaxialen Übertragungskanal mit der charakteristischen Kabeldämpfung
a∗ = 15 dB,
AWGN–Rauschen mit 10 · lg EB/N0 = 27 dB, wobei EB = s02 · T zu setzen ist.
Man erkennt aus dieser Darstellung und durch Vergleich mit der entsprechendenGrafikin Kapitel 3.2, die für HK(f) = 1 und 10 · lg EB/N0 = 13 dB gegolten hat:
Auch bei stark verzerrendem Kanal ist ρU eine geeignete untere Schranke für ρd (das heißt, es ist stets ρd ≥ ρU ) und dementsprechend pU eine sinnvolle obere Schranke für pS ⇒
pU ≥ pS.
Bei der hier betrachteten Kabeldämpfung a∗ = 15 dB ist in etwa die Grenzfrequenz fG · T = 0.55 optimal und es gilt ö(TD)/s0 ≈ 1.327 sowie σd/s0 ≈ 0.106.
Daraus ergeben sich der (ungünstigste) Störabstand 10 · lg ρU ≈ 15.9 dB und die worst–case–Fehlerwahrscheinlichkeit pU ≈ 2 · 10–9.
Eine kleinere Grenzfrequenz würde zu einer deutlich kleineren Augenöffnung führen, ohne dass dadurch auch σd gleichermaßen verkleinert wird. Beispielsweise gilt mit fG · T = 0.4:
Ist die Grenzfrequenz fG zu groß, so wird das Rauschen weniger effektiv begrenzt. Beispielsweise lauten die Werte für fG · T = 0.8:
Das Optimum mit 10 · lg ρd ≈ 16.2 dB und
10 · lg ρU ≈ 15.9 dB ist deutlich ausgeprägter als bei idealem Kanal. Bei einem Vergleich der Störabstände ist allerdings zu berücksichtigen, dass hier 10 · lg EB/N0 = 27 dB zugrunde liegt; im Kapitel 3.2 war dieser Wert zu 13 dB angenommen.
