Teorema do Limite Central para Cadeias de Markov

$\newcommand{\E}{\mathbb{E}}$$\newcommand{\P}{\mathbb{P}}$ O Teorema do Limite Central (CLT) afirma que, para $X_1,X_2,\dots$ independentes e distribuídos de forma idêntica (iid) com $\E[X_i]=0$ e $\operatorname{ Var} (X_i)<\infty$ , a soma converge para uma distribuição normal como $n\to\infty$ :

$$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$$

Suponha que $X_1,X_2,\dots$ formem uma cadeia Markov de estado finito com uma distribuição estacionária $\P_\infty$ com expectativa 0 e variação limitada. Existe uma extensão simples do CLT para este caso?

Os artigos que encontrei no CLT para cadeias de Markov geralmente tratam casos muito mais gerais. Ficaria muito grato por um ponteiro para o resultado geral relevante e uma explicação de como ele se aplica.

A resposta de Alex R. é quase suficiente, mas adiciono mais alguns detalhes. No Teorema do Limite Central da Cadeia de Markov - Galin L. Jones , se você observar o teorema 9, ele diz:

Se é uma cadeia de Markov ergódica de Harris com distribuição estacionária , um CLT vale para se é uniformemente ergódico e .$X$$\pi$$f$$X$$E[f^2] < \infty$

Para espaços de estado finitos, todas as cadeias de Markov irredutíveis e aperiódicas são uniformemente ergódicas. A prova disso envolve alguns antecedentes consideráveis ​​na teoria das cadeias de Markov. Uma referência boa seria Page 32, na parte inferior do Teorema 18 aqui .

Portanto, a cadeia de Markov CLT manteria qualquer função que tenha um segundo momento finito. O formulário que o CLT assume é descrito a seguir.$f$

Seja o estimador de , então como Alex R. aponta, como , $\bar{f}_n$$E_{\pi}[f]$$n \to \infty$

$$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$$

A cadeia de Markov CLT é

$$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$$

onde

$$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$$

Uma derivação para o termo pode ser encontrada na página 8 e na página 9 das notas do Charles Geyer no MCMC aqui$\sigma^2$

O resultado "usual" para as cadeias de Markov é o Teorema Ergódico de Birkhoff, que diz que

$$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$$

onde é a distribuição estacionária satisfaz , e a convergência é quase certa.f E | f ( X 1 ) | < $\pi$$f$$E|f(X_1)|<\infty$

Infelizmente, as flutuações dessa convergência são geralmente bastante difíceis. Isso se deve principalmente à extrema dificuldade de determinar os limites totais de variação da rapidez com que converge para a distribuição estacionária . Existem casos conhecidos em que as flutuações são análogas ao CLT e você pode encontrar algumas condições no desvio que fazem a analogia se manter: No Teorema do Limite Central da Cadeia de Markov - Galin L. Jones (consulte o Teorema 1).$X_i$$\pi$

Também existem situações estúpidas, por exemplo, uma cadeia com dois estados, em que um está absorvendo (ou seja, e Nesse caso, não há flutuações e você obter convergência para uma distribuição normal degenerada (uma constante).P ( 2 → 1 ) = $P(1\rightarrow 2)=1$$P(2\rightarrow 1)=0$