Teorema do Limite Central para raízes quadradas de somas de variáveis aleatórias iid

Intrigado com uma pergunta em math.stackexchange e investigando-a empiricamente, estou pensando na seguinte declaração sobre a raiz quadrada de somas de variáveis aleatórias iid.

Suponha que são variáveis aleatórias iid com média finita diferente de zero e variância e . O teorema do limite central diz medida que aumenta. $X_1, X_2, \ldots, X_n$ $\mu$ $\sigma^2$ $\displaystyle Y=\sum_{i=1}^n X_i$ $\displaystyle \dfrac{Y - n\mu}{\sqrt{n\sigma^2}} \ \xrightarrow{d}\ N(0,1)$ $n$

Se , também posso dizer algo como medida que aumenta? $Z=\sqrt{|Y|}$ $\displaystyle \dfrac{Z - \sqrt{n |\mu|-\tfrac{\sigma^2}{4|\mu|}}}{\sqrt{\tfrac{\sigma^2}{4|\mu|}}}\ \xrightarrow{d}\ N(0,1)$ $n$

Por exemplo, suponha que seja Bernoulli com média e variância , então é binomial e eu posso simular isso em R, digamos com : $X_i$ $p$ $p(1-p)$ $Y$ $p=\frac13$

set.seed(1)
cases <- 100000
n <- 1000
p <- 1/3
Y <- rbinom(cases, size=n, prob=p)
Z <- sqrt(abs(Y))

que fornece aproximadamente a média esperada e variância para $Z$

> c(mean(Z), sqrt(n*p - (1-p)/4))
[1] 18.25229 18.25285
> c(var(Z), (1-p)/4)
[1] 0.1680012 0.1666667

e um gráfico QQ que parece próximo de Gaussian

qqnorm(Z)

normal-distribution central-limit-theorem sum

— Henry
fonte

@ MichaelM: Obrigado por esses comentários. Eu comecei com o não negativo, mas achei que o comportamento assintótico intuitivo que você descreve permitia uma generalização para mais distribuições. Minhas surpresas foram: (a) a variação da raiz quadrada da soma aparentemente tendendo a uma constante, não dependendo de (b) o aparecimento de uma distribuição que parece muito próxima de Gaussiana. Um contra-exemplo seria bem-vindo, mas quando tentei outros casos que inicialmente pareciam não-gaussianos, o aumento de parecia trazer a distribuição de volta a um resultado do tipo CLT.

X_{i}

$X_i$

n

$n$

n

$n$

— Henry

Um corolário disso é a raiz quadrada média (ou média quadrática) de variáveis aleatórias iid adequadamente dimensionadas (multiplicadas por como com uma média aritmética) também converge para uma distribuição gaussiana, desde que o momento do distribuição subjacente é finita.

\sqrt{n}

$\sqrt{n}$

4

$4$

— Henry As

Apenas um breve comentário: a alegação é um caso especial do método Delta, veja o Teorema 5.5.24 no livro "Inferência Estatística", de Casella & Berger.

— Michael M

@ Michael: Talvez você veja algo que não estou no momento, mas não acho que esse problema específico se encaixe nas suposições do método Delta clássico (por exemplo, conforme indicado no teorema que você faz referência). Observe que não converge na distribuição (não trivialmente em ) e, portanto, "aplicar o método Delta com " não atende aos requisitos necessários. No entanto, como demonstra a resposta de S. Catterall, fornece uma heurística útil que leva à resposta correta.

Y

$Y$

R

$\mathbb R$

g (y) = \sqrt{| y |}

$g(y) = \sqrt{|y|}$

— cardinal

(Acredito que você pode adaptar a prova do método Delta a casos semelhantes ao acima, a fim de tornar totalmente rigorosa a heurística acima mencionada.) #

— 2222

A convergência para um gaussiano é de fato um fenômeno geral.

Suponha que sejam variáveis aleatórias de com média e variação e defina as somas . Corrija um número . O usual Teorema do Limite Central nos diz que como , onde é o cdf normal padrão. No entanto, a continuidade do cdf limitador implica que também temos $X_1,X_2,X_3,...$ $\mu\gt 0$ $\sigma^2$ $Y_n=\sum_{i=1}^n X_i$ $\alpha$ $P(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha)\to\Phi(\alpha)$ $n\to\infty$ $\Phi$

P (\frac{Y_{n} - n μ}{σ \sqrt{n}} \leq α + \frac{α^{2} σ^{2}}{4 μ σ \sqrt{n}}) \to Φ (α)

$P\Big(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha+\frac{\alpha^2 \sigma^2}{4\mu\sigma\sqrt n}\Big)\to\Phi(\alpha)$ porque o termo adicional no lado direito da desigualdade tende a zero. Reorganizar esta expressão leva a

P (Y_{n} \leq (\frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ})^{2}) \to Φ (α)

$P\Big(Y_n\leq (\frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu})^2\Big)\to\Phi(\alpha)$

Tomando raízes quadradas e observando que implica que , obtemos Em outras palavras, . Este resultado demonstra convergência para um gaussiano no limite como . $\mu\gt 0$ $P(Y_n\lt 0)\to 0$

P (\sqrt{| Y_{n} |} \leq \frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ}) \to Φ (α)

$P\Big(\sqrt{|Y_n|}\leq \frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu}\Big)\to\Phi(\alpha)$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

n \to \infty

$n\to\infty$

Isso significa que é uma boa aproximação de para grande ? Bem, podemos fazer melhor que isso. Como @Henry observa, assumindo que tudo é positivo, podemos usar , juntamente com e a aproximação , para obter a aproximação aprimorada conforme indicado na pergunta acima. Observe também que ainda temos porque $\sqrt{n\mu}$ $E[\sqrt{|Y_n|}]$ $n$ $E[\sqrt{Y_n}]=\sqrt{E[Y_n]-\text{Var}(\sqrt{Y_n})}$ $E[Y_n]=n\mu$ $\text{Var}(\sqrt{Y_n})\approx \frac{\sigma^2}{4\mu}$ $E[\sqrt{|Y_n|}]\approx\sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - \frac{σ^{2}}{4 μ}}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-\frac{\sigma^2}{4\mu}}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

\sqrt{n μ - \frac{σ^{2}}{4 μ}} - \sqrt{n μ} \to 0

$\sqrt{n\mu-\frac{\sigma^2}{4\mu}}-\sqrt{n\mu}\to 0$ como .

n \to \infty

$n\to\infty$

— S. Catterall Restabelece Monica
fonte

Você pode precisar adicionar como para obter meu resultado

\sqrt{n μ} - \sqrt{n μ - \frac{σ^{2}}{4 μ}} \to 0

$\sqrt{n \mu}-\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}} \to 0$

n \to \infty

${n \to \infty}$

— Henry

@ Henry Você pode substituir por por qualquer constante e isso não altera a distribuição limitadora, mas pode alterar o grau em que é uma boa aproximação de para grande específico . Como você criou o ?

\sqrt{n μ}

$\sqrt{n\mu}$

\sqrt{n μ - k}

$\sqrt{n\mu-k}$

k

$k$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - k}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-k}}{\sigma/{2\sqrt\mu}}$

N (0, 1)

$N(0,1)$

n

$n$

\sqrt{n μ - \frac{σ^{2}}{4 μ}}

$\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}}$

— S. Catterall Restabelece Monica

Temos então . Assumindo que tudo é positivo, enquanto o denominador de sugere e combinando esses leads em .

Var (Z) = E [Z^{2}] - (E [Z])^{2}

$\text{Var}(Z)=E[Z^2]-(E[Z])^2$

E [Z] = \sqrt{E [Z^{2}] - Var (Z)}

$E[Z]=\sqrt{E[Z^2]-\text{Var}(Z)}$

E [Z^{2}] = E [Y] = n μ

$E[Z^2]=E[Y]=n\mu$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}$

Var (Z) \approx \frac{σ^{2}}{4 μ}

$\text{Var}(Z) \approx \dfrac{\sigma^2}{4\mu}$

E [Z] \approx \sqrt{n μ - \frac{σ^{2}}{4 μ}}

$E[Z] \approx \sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

— Henry

Ok, obrigado, eu tentei cobrir isso na minha resposta agora.

— S. Catterall Restabelece Monica

Teorema do Limite Central para raízes quadradas de somas de variáveis ​​aleatórias iid

Teorema do Limite Central para raízes quadradas de somas de variáveis aleatórias iid