In diesem Abschnitt gehen wir von nachfolgendem Blockschaltbild eines Binärsystems aus.
Hierzu ist anzumerken:
Die Diracquelle liefert die zu übertragende Nachricht (Amplitudenkoeffizienten aν) in binärer bipolarer Form. Sie wird als redundanzfrei vorausgesetzt.
Die Sendeimpulsform gs(t) wird durch den SenderfrequenzgangHS(f) berücksichtigt. Bei allen Beispielen ist HS(f) = si(π fT) zugrunde gelegt.
Bei manchen Herleitungen werden Sender und Kanal – hierfür wird meist ein Koaxialkabel angenommen – durch den gemeinsamen Frequenzgang HSK(f) = HS(f) · HK(f) zusammengefasst.
Das Empfangsfilter HE(f) setzt sich multiplikativ aus dem Matched–FilterHMF(f) = HSK∗(f) und dem TransversalfilterHTF(f) zusammen, zumindest kann es gedanklich so aufgespalten werden.
Der Gesamtfrequenzgang zwischen der Diracquelle und dem Schwellenwertentscheider soll die
Mit dieser Bedingung ist die normierte Augenöffnung immer gleich 1 (keine Impulsinterferenzen, binäre Signalisierung). Deshalb gelten für das Detektions–SNR und den Systemwirkungsgrad:
Die Optimierungsaufgabe beschränkt sich also darauf, das Empfangsfilter HE(f) so zu bestimmen, dass die normierte Rauschleistung vor dem Entscheider den kleinstmöglichen Wert annimmt:
Man bezeichnet die Konfiguration als
Optimale Nyquistentzerrung (ONE). Obwohl diese auch – und besonders effektiv – bei Mehrstufensystemen anwendbar ist, setzen wir zunächst M = 2.