Capacidade do canal AWGN

Estou confuso ao entender os conceitos básicos de comunicação pelos canais AWGN. Eu sei que a capacidade de um canal AWGN de ​​tempo discreto é: e é alcançada quando o sinal de entrada tem Gaussian distribuição. Mas, o que significa que o sinal de entrada é gaussiano? Isso significa que a amplitude de cada símbolo de uma palavra de código deve ser retirada de um conjunto gaussiano? Qual é a diferença entre usar um livro de códigos especial (neste caso, Gaussiano) e modular o sinal com sinalização M-ária, digamos MPSK?

$$C=\frac{1}{2}\log_2\left(1+\frac{S}{N}\right)$$

Supondo que um canal cuja entrada a cada momento seja uma variável aleatória contínua e sua saída seja , em que e seja independente de , então é a capacidade do canal de entrada contínua sob a restrição de energia A informação mútua é maximizada (e é igual a ) quando .$X$$Y=X+Z$$Z\sim\mathcal{N}(0,N)$$Z$$X$

$$C_{\text{CI-AWGN}}=\frac{1}{2}\log_2\left(1+\frac{P}{N}\right)$$ $$\mathsf{E}X^2\le P$$ $I(X;Y)$$C_{\text{CI-AWGN}}$$X\sim\mathcal{N}(0,P)$

Isso significa que, se é uma variável aleatória Gaussiana contínua com a variação fornecida, a saída possui a maior informação mútua possível com a entrada. É isso aí!$X$

Quando a variável de entrada é discretizada (quantizada), uma nova formulação é necessária. De fato, as coisas podem facilmente se tornar difíceis. Para ver um pouco, pode-se considerar o caso simples de uma discritização muito grosseira de onde ele pode ter apenas dois valores. Então, suponha que seja selecionado de um alfabeto binário, por exemplo, deixe$X$$X$$X$$X\in\{\pm1\}$(ou uma versão em escala para satisfazer uma restrição de energia). Em termos de modulação, é idêntico ao BPSK.

Acontece que a capacidade (mesmo neste caso simples) não tem forma fechada. Relato de "Modern Coding Theory", de Richardson e Urbanke:

$$\begin{align}C&_{\text{BI-AWGN}}=1+\\&\frac{1}{\ln(2)} \left(\left(\frac{2}{N}-1\right)\mathcal{Q}\left(\frac{1}{\sqrt{N}}\right)-\sqrt{\frac{2}{\pi N}}e^{-\frac{1}{2N}}+\sum_{i=1}^{\infty}\frac{(-1)^i}{i(i+1)}e^{\frac{2i(i+1)}{N}}\mathcal{Q}\left(\frac{1+2i}{\sqrt{N}}\right)\right)\end{align}$$ Uma comparação entre os dois casos pode ser vista na figura abaixo:

A fórmula da capacidade

$$C = 0.5 \log (1+\frac{S}{N}) \tag{1}$$ é para canal de tempo discreto.

Supondo que você tenha uma sequência de dados $\left\lbrace a_n \right\rbrace$ para enviar, você precisa de um conjunto de formas de onda ortonormal $\left\lbrace \phi_n(t) \right\rbrace$para modulação. Na modulação linear, a quem pertence a modificação M-ária,$\phi_n(t) = \phi(t - nT)$ Onde $T$ é a duração do símbolo e $\phi(t)$ é uma forma de onda protótipo para que o sinal TX de tempo contínuo da banda base se torne

$$x(t) = \sum_n a_n \phi(t-nT) \tag{2}$$

Modulações típicas usam o caso especial que $\left\lbrace \phi_n(t) \right\rbrace$satisfaz o critério Nyquist ISI com filtro correspondente para recuperar$a_n$. Um conhecido$\phi(t)$Raiz é cosseno elevado .

O canal AWGN contínuo é um modelo que

$$y(t) = x(t) + n(t) \tag{3}$$

Onde $n(t)$ é um processo estocástico branco gaussiano.

De (2), podemos ver que $a_n$ é a projeção de $x(t)$ em $\left\lbrace \phi_n(t) \right\rbrace$. Faça a mesma coisa com$n(t)$, as projeções de $n(t)$ em um conjunto ortonormal é uma sequência de variáveis ​​aleatórias iid gaussianas $w_n = \langle n(t),\phi_n(t) \rangle$ (Eu realmente acho que $n(t)$é definido a partir de suas projeções); e ligar$y_n = \langle y(t),\phi_n(t) \rangle$. Voilà, temos um modelo de tempo discreto equivalente

$$y_n = a_n + w_n \tag{4}$$

A fórmula (1) é indicada para $S$ e $N$ são energia (variação se $a_n$ e $w_n$ zero média) de $a_n$ e $w_n$, respectivamente. E se$a_n$ e $w_n$ são gaussianos, $y_n$e a capacidade é maximizada. (Eu posso adicionar uma prova simples, se você quiser).

o que significa que o sinal de entrada é gaussiano? Isso significa que a amplitude de cada símbolo de uma palavra de código deve ser retirada de um conjunto gaussiano?

Significa variáveis ​​aleatórias $a_n$ são gaussianos.

Qual é a diferença entre usar um livro de códigos especial (neste caso, Gaussiano) e modular o sinal com sinalização M-ária, digamos MPSK?

A forma de onda $\phi_n(t)$ O conjunto precisa ser ortonormal, o que é verdade para o M-PSK, para que $w_n$ é um gaussiano.

Atualizar no entanto$a_n$é quantizado e, em geral, não é mais gaussiano. Existem algumas pesquisas sobre esse tópico, como o uso de Lattice Gaussian Coding (link) .

Dizer que o sinal de entrada tem uma distribuição gaussiana significa que ele é distribuído como uma variável aleatória gaussiana. Na prática, confia-se na codificação de várias instâncias do canal (no tempo), em vez de depender de uma distribuição de entrada gaussiana. Existe uma bela teoria cheia de provas que está além do escopo desta resposta (Teoria da Informação). Os códigos de controle de erro (ou códigos de canal) geralmente dependem do uso de modulações familiares de QAM / PSK, mas, através da redundância do código e de vários usos de canal, eles podem abordar (embora não atinjam completamente) a capacidade do canal. Um esboço do raciocínio (sem detalhes completos) é fornecido a seguir.

A definição da capacidade do canal é

$$C = \sup_{p_X(x)} I(X; Y)$$ Onde $X$ pode ser vagamente referida como sua variável aleatória de entrada e $Y$ pode ser vagamente referida como sua variável aleatória de saída e $I(\cdot,\cdot)$é a informação mútua de$X$ e $Y$. Essa definição exige que pesquisemos todas as distribuições possíveis da entrada$p_X(x)$para distribuições que maximizam as informações mútuas. O canal AWGN discreto possui um relacionamento de entrada / saída definido como $$Y = X + Z$$ Onde $Z$ é um Gaussiano médio zero com variância $\sigma_Z^2$ (notar que $\sigma_Z^2=N$ e $\sigma_X^2=S$na sua notação). Não tenho tempo para fornecer todos os detalhes agora. No entanto, qualquer livro sobre teoria da informação pode orientá-lo na prova que mostra que, se$X$ é distribuído como um gaussiano então $I(X;Y)$ (a informação mútua de $X$ e $Y$) é maximizado. Por exemplo, consulte Elementos da teoria da informação de Thomas Cover. Se você ainda não o leu, o tratado original de Shannon, Uma teoria matemática da comunicação, é uma leitura válida, com raciocínio claro.