Qual é a distinção entre ergódico e estacionário?

Tenho dificuldade em distinguir entre esses dois conceitos. Este é o meu entendimento até agora.

Um processo estacionário é um processo estocástico cujas propriedades estatísticas não mudam com o tempo. Para um processo estacionário de sentido estrito, isso significa que sua distribuição de probabilidade conjunta é constante; para um processo estacionário de sentido amplo, isso significa que seus 1º e 2º momentos são constantes.

Um processo ergódico é aquele em que suas propriedades estatísticas, como variância, podem ser deduzidas de uma amostra suficientemente longa. Por exemplo, a média da amostra converge para a verdadeira média do sinal, se você tiver uma média de tempo suficiente.

Agora, parece-me que um sinal teria que ser estacionário, a fim de ser ergódico.

• E que tipos de sinais poderiam ser estacionários, mas não ergódicos?
• Se um sinal tem a mesma variação para todos os tempos, por exemplo, como a variação média do tempo pode não convergir para o valor verdadeiro?
• Então, qual é a verdadeira distinção entre esses dois conceitos?
• Você pode me dar um exemplo de um processo estacionário sem ser ergódico ou ergódico sem ser estacionário?

Um processo aleatório é uma coleção de variáveis ​​aleatórias, uma para cada instante em consideração. Normalmente, isso pode ser tempo contínuo ( ) ou tempo discreto (todos os números inteiros , ou todos os instantes de tempo onde é o intervalo da amostra). $-\infty < t < \infty$$n$$nT$$T$

• A estacionariedade refere-se às distribuições das variáveis ​​aleatórias. Especificamente, em um processo estacionário, todas as variáveis ​​aleatórias têm a mesma função de distribuição e, de maneira mais geral, para todo número inteiro positivo e instantes de tempo , a distribuição conjunta das variáveis ​​aleatórias é igual à distribuição conjunta de . Ou seja, se mudarmos todos os instantes de tempo por , a descrição estatística do processo não muda: o processo é estacionário$n$$n$$t_1, t_2, \ldots, t_n$ n X ( t 1 ) , X ( t 2 ) , ⋯ , X ( t n ) X ( t 1 + τ ) , X ( t 2 + τ ) , ⋯ , X ( t n + τ ) τ$n$$X(t_1), X(t_2), \cdots, X(t_n)$$X(t_1+\tau), X(t_2+\tau), \cdots, X(t_n+\tau)$$\tau$.
• A ergodicidade, por outro lado, não analisa as propriedades estatísticas das variáveis ​​aleatórias, mas os caminhos da amostra , ou seja, o que você observa fisicamente. Voltando às variáveis ​​aleatórias, lembre-se de que variáveis ​​aleatórias são mapeamentos de um espaço de amostra para os números reais; cada resultado é mapeado em um número real, e variáveis ​​aleatórias diferentes normalmente mapeiam qualquer resultado para números diferentes. Então, imagine que um pouco mais alto, como foi realizado, o experimento que resultou em um resultado no espaço da amostra, e esse resultado foi mapeado em números reais (normalmente diferentes) por todas as variáveis ​​aleatórias no processo: especificamente, o aleatório A variável mapeou$\omega$$X(t)$$\omega$para um número real, denotaremos como . Os números , considerados como forma de onda, são o caminho da amostra correspondente a , e diferentes resultados nos fornecerão diferentes caminhos da amostra. A ergodicidade então lida com as propriedades dos caminhos da amostra e como essas propriedades se relacionam com as propriedades das variáveis ​​aleatórias que compõem o processo aleatório.$x(t)$x ( t ) ω $x(t)$$\omega$

Agora, para um caminho de amostra de um processo estacionário , podemos calcular a média de tempo mas, o que tem a ver com , a média do processo aleatório? (Observe que não importa qual valor de usamos; todas as variáveis ​​aleatórias têm a mesma distribuição e, portanto, a mesma média (se a média existir)). Como o OP diz, o valor médio ou o componente DC de um caminho de amostra converge para o valor médio do processo se o caminho da amostra for observado por tempo suficiente, desde que o processo seja ergódico$x(t)$ˉ x = 1

$$\bar{x} = \frac{1}{2T} \int_{-T}^T x(t) \,\mathrm dt$$ $\bar{x}$$\mu = E[X(t)]$$t$e estacionário, etc. Ou seja, a ergodicidade é o que nos permite conectar os resultados dos dois cálculos e afirmar que é igual a Um processo para o qual essa igualdade se mantém é considerado ergódico e um processo é ergódico se sua função de autocovariância tiver a propriedade: $$\lim_{T\to \infty}\bar{x} = \lim_{T\to \infty}\frac{1}{2T} \int_{-T}^T x(t) \,\mathrm dt$$
$$\mu = E[X(t)] = \int_{-\infty}^\infty uf_X(u) \,\mathrm du.$$ C X ( τ ) lim T → ∞ 1$C_X(\tau)$ $$\lim_{T\to\infty}\frac{1}{2T}\int_{-T}^T C_X(\tau) \mathrm d\tau = 0.$$

Assim, nem todos os processos estacionários precisam ser ergódicos. Mas existem outras formas de ergodicidade também. Por exemplo, para um processo autocovariância-ergódico , a função de autocovariância de um segmento finito (digamos, para do caminho da amostra converge para a função de autocovariância do processo como . Uma declaração geral de que um processo é ergódico pode significar qualquer uma das várias formas ou um formato específico; não se pode dizer,$t\in (-T, T)$$x(t)$$C_X(\tau)$$T\to \infty$

Como exemplo da diferença entre os dois conceitos, suponha que para todos os em consideração. Aqui é uma variável aleatória. Este é um processo estacionário: cada tem a mesma distribuição (a distribuição de ), a mesma média , a mesma variação etc .; cada e têm a mesma distribuição conjunta (embora degenerada) e assim por diante. Mas o processo não é ergódico porque cada caminho de amostra é uma constante . Especificamente, se um teste do experimento (realizado por você ou por um ser superior) resultar em$X(t) = Y$$t$$Y$$X(t)$$Y$$E[X(t)] = E[Y]$$X(t_1)$$X(t_2)$$Y$ tendo o valor , o caminho da amostra do processo aleatório que corresponde a esse resultado experimental possui o valor para todos os , e o valor DC do caminho da amostra é , não , não importa quanto tempo você observe o caminho da amostra (bastante chato). Em um universo paralelo, o teste resultaria em e o caminho da amostra nesse universo teria valor para todos os . Não é fácil escrever especificações matemáticas para excluir essas trivialidades da classe de processos estacionários e, portanto, este é um exemplo muito mínimo de um processo aleatório estacionário que não é ergódico.$\alpha$$\alpha$$t$$\alpha$$E[X(t)] = E[Y]$$Y = \beta$$\beta$$t$

Pode haver um processo aleatório que não é estacionário, mas é ergódico? Bem, N0 , não se por ergódico queremos dizer ergódico de todas as maneiras possíveis: por exemplo, se medirmos a fração de tempo durante a qual um segmento longo do caminho da amostra tem valor no máximo , essa é uma boa estimativa de , o valor do CDF (comum) dos em se o processo for semelhante ao ser ergódico em relação às funções de distribuição. Mas , nós pode ter processos aleatórios que são$x(t)$$\alpha$$P(X(t) \leq \alpha) = F_X(\alpha)$$F_X$$X(t)$$\alpha$não estacionário, mas ainda assim é -ergódico médio e autocovariância -ergódico. Por exemplo, considere o processo que assume quatro valores igualmente prováveis e . Observe que cada é uma variável aleatória discreta que, em geral, assume quatro valores igualmente prováveis e , É fácil ver que, em geral, e$\{X(t)\colon X(t)= \cos (t + \Theta), -\infty < t < \infty\}$$\Theta$$0, \pi/2, \pi$$3\pi/2$$X(t)$$\cos(t), \cos(t+\pi/2)=-\sin(t), \cos(t+\pi) = -\cos(t)$$\cos(t+3\pi/2)=\sin(t)$$X(t)$$X(s)$têm distribuições diferentes e, portanto, o processo nem sequer é estacionário de primeira ordem. Por outro lado, para cada enquanto Em suma, o processo tem média zero e sua função de autocorrelação (e autocovariância) depende apenas da diferença de tempo e, portanto, o processo é

$$E[X(t)] = \frac 14\cos(t)+ \frac 14(-\sin(t)) + \frac 14(-\cos(t))+\frac 14 \sin(t) = 0$$ $t$ $$\begin{align} E[X(t)X(s)]&= \left.\left.\frac 14\right[\cos(t)\cos(s) + (-\cos(t))(-\cos(s)) + \sin(t)\sin(s) + (-\sin(t))(-\sin(s))\right]\\ &= \left.\left.\frac 12\right[\cos(t)\cos(s) + \sin(t)\sin(s)\right]\\ &= \frac 12 \cos(t-s). \end{align}$$ $t-s$senso amplo estacionário. Mas não é estacionário de primeira ordem e, portanto, também não pode ser estacionário para ordens superiores. Agora, quando o experimento é realizado e o valor de é conhecido, obtemos a função de amostra que claramente deve ser uma das e que possuem o valor DC que é igual a e cuja função de autocorrelação é , igual a , e, portanto, esse processo é ergódico e ergódico de autocorrelação mesmo que não seja estacionário. Para finalizar, observo que o processo não é ergódico com relação à função de distribuição$\Theta$$\pm \cos(t)$$\pm \sin(t)$$0$$0$$\frac 12 \cos(\tau)$$R_X(\tau)$isto é, não se pode dizer que seja ergódico em todos os aspectos.

Vamos considerar um processo aleatório hipotético em que as funções de amostra são valores DC e são diferentes entre si:

X ₁ (t) = constante = média de X ₁ (t)

X ₂ (t) = constante = média de X ₂ (t)

A média temporal de e é constante, mas não é igual. se meu processo é estacionário, e são iguais e RVs (consulte a resposta de Dilip)X 2 ( t ) X ( t 1 ) X ( t 2$X_1(t)$$X_2(t)$$X(t_1)$$X(t_2)$

Portanto, a média do conjunto de é constante.$X(t)$

Essa média do conjunto certamente não é igual à média temporal de e (elas mesmas não são iguais). Isso pode ser chamado de um processo estacionário, mas não ergódico.X 2 ( t $X_1(t)$$X_2(t)$

Por outro lado, onde é um RV é ergódico.$X(t)=Acos(\omega t+\theta)$$\theta$

Espero que este vídeo (do Instituto de Tecnologia da Flórida. Intitulado "o que é staionary sentido amplo, sentido estrito, sinais ergódicas" pelo Dr. Ivica Kostanic em sua classe Teoria Communications) a partir de 16:55 poderia tirar suas dúvidas

Um processo ergódico é um processo pelo qual você pode substituir a média ergódica pela média temporal.

A média real, variância, etc ... são definidas seguindo um processo ao longo do tempo e calculando a média, etc ... Por exemplo, se você quiser saber a média do meu tamanho, precisará calculá-la a partir de quando nasci para quando eu morrer. Obviamente, o exemplo posterior não é um processo estacionário.

A média ergódica seria se, em vez de seguir meu tamanho ao longo do tempo, você congelasse o tempo e medisse uma média de uma amostra de diferentes seres humanos. Não há razão para que esses dois meios sejam iguais, portanto o processo do meu tamanho não é ergódico.

Esse é um mau exemplo, mas fica mais importante se você considerar o caso simples de um gás em equilíbrio. Por exemplo, a velocidade quadrática média é anotada (média ao longo do tempo), mas é frequentemente calculada considerando a média do conjunto : a média da velocidade quadrada de todas as moléculas de o gás em um instante . ⟨V2⟩$\bar{V^2}$$\left< V^2 \right>$$t$

A maioria dos teoremas da termodinâmica requer o uso de , mas é mais fácil calcular e usar . A hipótese ergódica é a hipótese que afirma que é correto substituir uma pela outra. Um processo ergódico é um processo para o qual a hipótese ergódica é verdadeira. ⟨V2$\bar{V^2}$$\left< V^2 \right>$

A hipótese ergódica é falsa no caso geral.

Para um exemplo do caso oposto (ou seja, um processo aleatório que é ergódico, mas não estacionário), considere um processo de ruído branco modulado em amplitude por uma onda quadrada determinística. A média de tempo de cada função de amostra é igual a zero, assim como a média do conjunto ao longo do tempo. Portanto, o processo é ergódico. No entanto, a variação de qualquer função de amostra individual mostra a dependência original da onda quadrada no tempo, portanto o processo não é estacionário.

Este exemplo em particular é estacionário de senso amplo, mas pode-se inventar exemplos relacionados que ainda são ergódicos, mas nem mesmo estacionários de senso amplo.

como eu entendo, o exemplo abaixo mostra um processo ergódico e estacionário

 X1 X2 X3  | mean var ...
 1  2  3   | 2    1
 2  3  1   | 2
 3  1  2   | 2
 ----------

média 2 2 2 var 1

porque a média e a variação de cada coluna são constantes ao longo do tempo e a média e a variação de cada linha são constantes ao longo do tempo