Explicação intuitiva / motivação da distribuição estacionária de um processo

Frequentemente, na literatura, os autores têm se interessado em encontrar a distribuição estacionária de um processo de série temporal. Por exemplo, considere o seguinte processo simples AR ( ) : que . $1$ $\{X_t\}$

X_{t} = α X_{t - 1} + e_{t},

$X_t = \alpha X_{t-1} + e_t,$

e_{t} \overset{i i d}{\sim} f

$e_t\stackrel{iid}{\thicksim} f$

Qual poderia ser a motivação para encontrar a distribuição estacionária de qualquer processo estocástico?

Que outras análises (teóricas e práticas) alguém poderia fazer usando a distribuição estacionária resultante?

Qual é (são) o (s) problema (s) se a distribuição estacionária não existir? O processo se tornará inútil?

E se a distribuição estacionária existir, mas ela não tiver uma forma fechada? Quais são as desvantagens de não ter uma expressão de forma fechada do mesmo?

— Shanks
fonte

Até certo ponto, acho que estamos interessados na distribuição estacionária de um processo de RA pela mesma razão pela qual estamos interessados na distribuição de um processo de IDI. Desde que a distribuição estacionária exista, é então a distribuição marginal de , que nos diz sua média e variância ou intervalo de confiança em geral. De fato, estou interessado apenas no processo estacionário de covariância, porque com o CLT, conheço a distribuição assintótica desde que conheça a média e a variância.

X_{t}

$X_{t}$

— Semibruin

Existem várias motivações para o interesse em distribuições estacionárias nesse contexto, mas provavelmente o aspecto mais importante é que elas estão intimamente relacionadas à limitação de distribuições. Para a maioria dos processos de séries temporais, há uma conexão estreita entre a distribuição estacionária e a distribuição limitadora do processo. Sob condições muito amplas, os processos de séries temporais com base nos termos de erro do IID têm uma distribuição estacionária e convergem para essa distribuição estacionária como uma distribuição limitadora para qualquer distribuição inicial especificada. Isso significa que, se você deixar o processo em execução por um longo período, sua distribuição estará próxima da distribuição estacionária, independentemente de como foi iniciado. Portanto, se você tiver motivos para acreditar que o processo está em execução há muito tempo,

Na sua pergunta, você usa o exemplo de um processo de série temporal AR ( ) com termos de erro do IID com uma distribuição marginal arbitrária. Se , esse modelo é uma cadeia Markov recorrente e homogênea no tempo e sua distribuição estacionária pode ser encontrada invertendo-a para um processo MA ( ): $1$ $|\alpha|<1$ $\infty$

X_{t} = \sum_{k = 0}^{\infty} α^{k} e_{t - k} e_{t} \sim IID f .

$X_t = \sum_{k=0}^\infty \alpha^{k} e_{t-k} \quad \quad \quad e_t \sim \text{IID }f.$

Podemos ver que o processo é uma soma ponderada de uma cadeia infinita de termos de erro de IID, onde as ponderações estão decaindo exponencialmente. A distribuição limitadora pode ser obtida da distribuição de erros por uma convolução apropriada para essa soma ponderada. Em geral, isso depende da forma de e pode ser uma distribuição complicada. No entanto, vale ressaltar que, se a distribuição de erro não for de cauda pesada, e se para que o decaimento seja lento, a distribuição limitadora estará próxima de uma distribuição normal, devido à aproximação pelo limite central teorema . $f$ $f$ $\alpha \approx 1$

Aplicações práticas: Na maioria das aplicações do processo de série temporal AR ( ), assumimos uma distribuição de erro normal , o que significa que a distribuição estacionária do processo é : $1$ $e_t \sim \text{IID N}(0, \sigma^2)$

X_{t} \sim N (0, \frac{σ^{2}}{1 - α^{2}}) .

$X_t \sim \text{N} \Big( 0, \frac{\sigma^2}{1-\alpha^2} \Big).$

Independentemente da distribuição inicial para o processo, essa distribuição estacionária é a distribuição limitadora do processo. Se tivermos motivos para acreditar que o processo está em execução por um período de tempo razoável, sabemos que o processo terá convergido perto dessa distribuição limitadora, portanto, faz sentido supor que o processo segue essa distribuição. Obviamente, como em qualquer aplicação de modelagem estatística, examinamos gráficos / testes de diagnóstico para ver se os dados falsificam nossa forma de modelo assumida. No entanto, esse formulário se encaixa em uma ampla classe de casos em que o modelo AR ( ) é usado. $1$

E se uma distribuição estacionária não existir: Existem certos processos de séries temporais em que a distribuição estacionária não existe. Isso é mais comum quando há algum aspecto periódico fixo na série, ou algum estado absorvente (ou outras classes de estados não comunicantes). Nesse caso, pode não haver uma distribuição limitadora, ou a distribuição limitadora pode ser uma distribuição marginal agregada em várias classes não comunicantes, o que não é tão útil. Isso não é inerentemente um problema - apenas significa que você precisa de um tipo diferente de modelo que represente corretamente a natureza não estacionária do processo. Isso é mais complicado, mas a teoria estatística tem maneiras e meios de lidar com isso.

— Ben - Restabelecer Monica
fonte

Muito obrigado, @ Ben pela resposta. Isso limpa algumas das minhas dúvidas. Você disse que a distribuição estacionária pode ser usada em várias aplicações estatísticas. Isso significa que a distribuição estacionária é útil se apenas tiver uma forma fechada? Se você esclarecer um pouco mais sobre o que acontecerá se a distribuição estacionária existir, mas não tiver uma forma explícita?

— Shanks

O caso usual é assumir uma distribuição normal para os termos do erro, o que leva a uma distribuição estacionária normalmente distribuída para o processo. Isso também tem a vantagem de ser a distribuição formada a partir do CLT. No caso de você estar usando um modelo com uma distribuição estacionária que não está na forma fechada, você pode simular ou fazer uma aproximação usando misturas de distribuições normais. É raro ver alguém usar um processo que não é normal.

— Ben - Restabelece Monica

Eu acho que a distribuição estacionária se torna normal, se complicarmos um pouco a função auto-regressiva, digamos ou .

X_{t} = α X_{t - 1}^{2} + e_{t}

$X_t = \alpha X_{t-1}^2 + e_t$

X_{t} = α | X_{t - 1} | + e_{t}

$X_t = \alpha |X_{t-1}| + e_t$

— 217 Shanks

Agora você tem uma forma de modelo diferente e, portanto, uma pergunta diferente.

— Ben - Restabelece Monica