Ainda outra questão do teorema do limite central

11

Seja uma sequência de variáveis aleatórias independentes de Bernoulli com Defina Mostre que converge na distribuição para a variável normal padrão pois tende ao infinito. $\{X_n:n\ge1\}$
$P {X_{k} = 1} = 1 - P {X_{k} = 0} = \frac{1}{k} .$ $P\{X_k=1\}=1-P\{X_k=0\}=\frac{1}{k}.$ $S_{n} = \sum_{k = 1}^{n} (X_{k} - \frac{1}{k}), B_{n}^{2} = \sum_{k = 1}^{n} \frac{k - 1}{k^{2}}$ $S_n=\sum^{n}_{k=1}\left(X_k-\frac{1}{k}\right), \ B_n^2=\sum^{n}_{k=1}\frac{k-1}{k^2}$ $\frac{S_n}{B_n}$ $Z$ $n$

Minha tentativa é usar o Lyapunov CLT, portanto, precisamos mostrar que existe um tal que, $\delta>0$

lim_{n \to \infty} \frac{1}{B_{n}^{2 + δ}} \sum_{k = 1}^{n} E [| X_{k} - \frac{1}{k} |^{2 + δ}] = 0.

$\lim_{n\rightarrow \infty}\frac{1}{B_n^{2+\delta}}\sum_{k=1}^{n}E[|X_k-\frac{1}{k}|^{2+\delta}]=0.$

Então defina $\delta=1$

\sum_{k = 1}^{n} E {| X_{k} - k^{- 1} |}^{3} = \sum_{k = 1}^{n} (\frac{1}{k} - \frac{3}{k^{2}} + \frac{4}{k^{3}} - \frac{2}{k^{4}})

$\sum_{k=1}^{n}E\left|X_k-k^{-1}\right|^{3}=\sum_{k=1}^{n} \left(\frac{1}{k}-\frac{3}{k^2}+\frac{4}{k^3}-\frac{2}{k^4}\right)$ e

B_{n}^{3} = (\sum_{k = 1}^{n} \frac{1}{k} - \frac{1}{k^{2}}) \sqrt{(\sum_{k = 1}^{n} \frac{1}{k} - \frac{1}{k^{2}})}

$B_n^3=\left( \sum_{k=1}^n \frac{1}{k}-\frac{1}{k^2} \right) \sqrt{\left( \sum_{k=1}^n \frac{1}{k}-\frac{1}{k^2} \right)}$

Ao avaliar n's grandes no computador, ele mostra como $\sum_{k=1}^{n}E|X_k-k^{-1}|^{3} \to \infty$ e $B_n^3 \to \infty$ como $n \to \infty$ . Mas $B_n^3$ aumenta mais rápido que $B_n^2$ então $\frac{\sum_{k=1}^{n}E|X_k-k^{-1}|^{3}}{B_n^3} \to 0$ . Alguém pode me ajudar a provar que essa convergência é válida?

probability convergence central-limit-theorem

— TiffanyBorboletas
fonte

7

Este é o Exemplo 27.3 de Probabilidade e Medida, de Patrick Billingsley.

— Zhanxiong 27/03

10

Pode ser instrutivo demonstrar esse resultado a partir dos primeiros princípios e resultados básicos , explorando propriedades das funções geradoras cumulantes (exatamente como nas provas padrão do Teorema do Limite Central). Isso requer que entendamos a taxa de crescimento de números harmônicos generalizados para Essas taxas de crescimento são bem conhecidas e facilmente obtidas por comparação com as integrais : elas convergem para e divergem logaritmicamente para .

H (n, s) = \sum_{k = 1}^{n} k^{- s}

$H(n,s)=\sum_{k=1}^n k^{-s}$

s = 1, 2, \dots .

$s=1, 2, \ldots.$

\int_{1}^{n} x^{- s} d x

$\int_1^n x^{-s}dx$

s > 1

$s \gt 1$

s = 1

$s=1$

Seja e . Por definição, a função de geração cumulativa (cgf) de é $n \ge 2$ $1 \le k \le n$ $(X_k - 1/k)/B_n$

ψ_{k, n} (t) = \log E (\exp (\frac{X_{k} - 1 / k}{B_{n}} t)) = - \frac{t}{k B_{n}} + \log (1 + \frac{- 1 + \exp (t / B_{n})}{k}) .

$\psi_{k,n}(t) = \log\mathbb{E}\left(\exp\left(\frac{X_k - 1/k}{B_n}t\right)\right) = -\frac{t}{k B_n} + \log\left(1 + \frac{-1 + \exp(t/B_n)}{k}\right).$

A expansão em série do lado direito, obtida a partir da expansão de torno de , assume a forma $\log(1+z)$ $z=0$

ψ_{k, n} (t) = \frac{(k - 1)}{2 k^{2} B_{n}^{2}} t^{2} + \frac{k^{2} - 3 k + 2}{6 k^{3} B_{n}^{3}} t^{3} + \dots + \frac{k^{j - 1} - \dots \pm (j - 1)!}{j! k^{j} B_{n}^{j}} t^{j} + \dots .

$\psi_{k,n}(t) = \frac{(k-1)}{2 k^2 B_n^2}t^2 + \frac{k^2 - 3k + 2}{6 k^3 B_n^3} t^3 + \cdots + \frac{k^{j-1} - \cdots \pm (j-1)!}{j! k^j B_n^j}t^j + \cdots.$

Os numeradores das frações são polinômios em com o termo inicial . Como a expansão do log converge absolutamente para , essa expansão converge absolutamente quando $k$ $k^{j-1}$ $\left|\frac{-1 + \exp(t/B_n)}{k}\right| \lt 1$

| \exp (t / B_{n}) - 1 | < k .

$\left|\exp(t/B_n) - 1\right| \lt k.$

(No caso de , convergir para todos os lugares.) Para valores fixos de e crescentes de , a divergência (óbvia) de implica que o domínio da convergência absoluta se torna arbitrariamente grande. Assim, para qualquer fixo e suficientemente grande , esta expansão converge absolutamente. $k=1$ $k$ $n$ $B_n$ $t$ $n$

Para suficientemente grande , então, podemos, portanto, somar o indivíduo sobre termo por termo em potências de para obter o cgf de , $n$ $\psi_{k,n}$ $k$ $t$ $S_n/B_n$

ψ_{n} (t) = \sum_{k = 1}^{n} ψ_{k, n} (t) = \frac{1}{2} t^{2} + \dots + \frac{1}{B_{n}^{j}} (\sum_{k = 1}^{n} (k^{- 1} - \dots \pm (j - 1)! k^{- j})) \frac{t^{j}}{j} + \dots .

$\psi_n(t) = \sum_{k=1}^n \psi_{k,n}(t) = \frac{1}{2}t^2 + \cdots + \frac{1}{B_n^j}\left(\sum_{k=1}^n \left(k^{-1} - \cdots \pm (j-1)!k^{-j}\right)\right)\frac{t^j}{j} + \cdots.$

Assumir os termos nas somas sobre um de cada vez exige que avaliemos expressões proporcionais a $k$

b (s, j) = \frac{1}{B_{n}^{j}} \sum_{k = 1}^{n} k^{- s}

$b(s,j) = \frac{1}{B_n^j}\sum_{k=1}^n k^{-s}$

para e . Usando os assintóticos dos números harmônicos generalizados mencionados na introdução, segue-se facilmente de $j \ge 3$ $s=1, 2, \ldots, j$

B_{n}^{2} = H (n, 1) - H (n, 2) \sim \log (n)

$B_n^2 = H(n,1) - H(n,2) \sim \log(n)$

naquela

b (1, j) \sim (\log (n))^{1 - j / 2} \to 0

$b(1,j) \sim (\log(n))^{1-j/2}\to 0$

e (para ) $s \gt 1$

b (s, j) \sim (\log (n))^{- j / 2} \to 0

$b(s,j) \sim (\log(n))^{-j/2}\to 0$

como cresce. Consequentemente, todos os termos na expansão de além de convergem para zero, de onde converge para para qualquer valor de . Como a convergência do cgf implica a convergência da função característica, concluímos pelo Teorema da Continuidade de Levy que aproxima de uma variável aleatória cujo cgf é 2/2 : essa é a variável normal padrão, QED . $n$ $\psi_n(t)$ $t^2$ $\psi_n(t)$ $t^2/2$ $t$ $S_n/B_n$ $t^2/2$

Essa análise revela quão delicada é a convergência: enquanto em muitas versões do Teorema do Limite Central o coeficiente de é (para ), aqui o coeficiente é somente : a convergência é muito mais lenta.Neste sentido, a sequência de variáveis padronizadas "apenas um pouco" se torna Normal. $t^j$ $O(n^{1-j/2})$ $j \ge 3$ $O(((\log(n))^{1-j/2})$

Podemos ver essa lenta convergência em uma série de simulações. Os histogramas exibem iterações independentes para quatro valores de . As curvas vermelhas são gráficos de funções de densidade normal padrão para referência visual. Embora exista evidentemente uma tendência gradual à normalidade, mesmo em (onde ainda é considerável), permanece uma não normalidade considerável, como evidenciado na assimetria (igual a nesta amostra). (Não é surpresa que a assimetria desse histograma esteja próxima de , porque é exatamente isso que é o termo no cgf.) $10^5$ $n$ $n=1000$ $(\log(n))^{-1/2} \approx 0.38$ $0.35$ $(\log(n))^{-1/2}$ $t^3$

Aqui está o Rcódigo para aqueles que gostariam de experimentar ainda mais.

set.seed(17)
par(mfrow=c(1,4))
n.iter <- 1e5
for(n in c(30, 100, 300, 1000)) {
  B.n <- sqrt(sum(rev((((1:n)-1) / (1:n)^2))))
  x <- matrix(rbinom(n*n.iter, 1, 1/(1:n)), nrow=n, byrow=FALSE)
  z <- colSums(x - 1/(1:n)) / B.n
  hist(z, main=paste("n =", n), freq=FALSE, ylim=c(0, 1/2))
  curve(dnorm(x), add=TRUE, col="Red", lwd=2)
}

— whuber
fonte

6

Você já tem uma ótima resposta. Se você também deseja concluir sua própria prova, pode argumentar da seguinte maneira:

Como converge para todos e diverge para ( aqui ), podemos escrever $\sum_{k=1}^n 1/k^i$ $i>1$ $i = 1$

\begin{aligned} S (n) := \sum_{k = 1}^{n} (\frac{1}{k} - \frac{3}{k^{2}} + \frac{4}{k^{3}} - \frac{3}{k^{4}}) = \sum_{k = 1}^{n} \frac{1}{k} + O (1) . \end{aligned}

$\begin{align}S(n):=\sum_{k=1}^n\left(\frac{1}{k} - \frac{3}{k^2} + \frac{4}{k^3} - \frac{3}{k^4} \right) = \sum_{k=1}^n\frac{1}{k} + O(1). \end{align}$

Pelo mesmo argumento,

B_{n}^{2} = \sum_{k = 1}^{n} \frac{1}{k} + O (1) .

$B^2_n = \sum_{k=1}^n\frac{1}{k} + O(1).$

Conseqüentemente, e, portanto, $S(n) / B_n^2 = O(1)$

S (n) / B_{n}^{3} = O (1) (B_{n}^{2})^{- 1 / 2} \to 0,

$S(n)/B_n^3 = O(1)(B_n^2)^{-1/2} \to 0,$

que é o que queríamos mostrar.

— ekvall
fonte

2

Primeiro, suas variáveis aleatórias não serão distribuídas de forma idêntica se as distribuições dependerem de ;) $k$

Também não usaria sua notação como: $B_n$

letras maiúsculas são geralmente reservadas para variáveis aleatórias.
é apenas a soma das variações, então eu usaria uma notação envolvendo um símbolo para tornar isso óbvio. $\sigma$

Então, com relação à pergunta, não sei se isso é um exercício ou pesquisa e quais ferramentas você pode usar. Se você não está tentando provar novamente os teoremas conhecidos, eu diria que é um teorema do limite central para RV independente, não identicamente distribuído, mas uniformemente limitado, e o chame de um dia. Não tenho uma boa fonte em mãos, mas não deve ser muito difícil encontrar uma, por exemplo, consulte /mathpro/29508/is-there-a-central-limit-theorem- para aleatório-limitado-não-identicamente-distribuído .

Edit: Meu mal, é claro que a condição uniformemente limitada não é suficiente, você também precisa

\sum_{k = 1}^{n} σ_{k}^{2} \to \infty

$\sum_{k=1}^n \sigma_k^2 \to \infty$

— Adrien
fonte