Para o caso de modulação linear no canal AWGN com símbolos equiprobáveis (um caso muito comum), a abordagem ideal é usar verdadeiramente um filtro que corresponda à forma de onda do símbolo, ou seja:
q( x ) = p ( x )
Es- Es
A energia do ruído na saída do filtro durante o instante de amostragem não depende da forma no domínio do tempo da resposta ao impulso do filtro, apenas da energia total da resposta ao impulso (como observado anteriormente, tipicamente unidade). Portanto, a relação sinal / ruído é maximizada maximizando a quantidade de energia do sinal na saída do filtro no instante de amostragem. Ao escolher o filtro receptor a ser correspondido à forma do símbolo, fizemos isso, pois a forma de onda do símbolo tem correlação máxima com uma resposta de impulso do filtro que tem uma forma idêntica. Assim, o filtro correspondente fornece SNR máximo, para o caso do canal AWGN.
Com esse movimento de mão fora do caminho (você pode definitivamente chegar com mais rigor matemático, mas eu sou um engenheiro e este é um serviço gratuito; se você quiser se aprofundar nos detalhes, verifique qualquer teoria da comunicação digital texto), você pode estar pensando que eu esqueci que você perguntou sobre o caso ISI não ideal. Não tema, pois afirmo que, se você conhece a forma do pulso transmitido, o filtro correspondente ainda é a melhor opção para o canal AWGN.
p(x)q(x)
Obviamente, você normalmente não sabe com certeza quais eram os poucos símbolos anteriores; se você fez, pode estar em um SNR alto o suficiente para que seu ISI possa ser negligenciado. No caso mais interessante, você não pode fazer essa suposição. Em vez disso, uma abordagem de detecção de sequência com probabilidade máxima é empregada usando o algoritmo Viterbi. Esse processo é chamado de equalização de Viterbi , porque neste modelo você trata o ISI induzido pela forma do pulso como um código convolucional de valor suave aplicado à sua forma de onda de transmissão. A duração do ISI no equalizador Viterbi define o número necessário de estados do algoritmo, semelhante à duração da restrição em um código convolucional.
Essa abordagem é frequentemente usada em sistemas com a forma de pulso não ideal que você anotou; Um exemplo notável é o GSM (que usa uma forma de pulso gaussiano que se estende por vários intervalos de símbolos). Uma grande referência sobre esse tópico foi publicada por Sklar em 2003:
B. Sklar, “Como eu aprendi a amar a treliça”, IEEE Signal Processing Magazine, pp. 87-102, maio de 2003