Qual é a intuição por trás da independência de e , ?

18

Eu esperava que alguém pudesse propor um argumento explicando por que as variáveis aleatórias e , com a distribuição normal padrão, são estatisticamente independentes. A prova desse fato decorre facilmente da técnica MGF, mas acho extremamente contra-intuitiva. $Y_1=X_2-X_1$ $Y_2=X_1+X_2$ $X_i$

Eu apreciaria, portanto, a intuição aqui, se houver.

Agradeço antecipadamente.

EDIT : Os subscritos não indicam estatísticas da ordem, mas observações do IDI da distribuição normal padrão.

probability self-study mathematical-statistics

— JohnK
fonte

O que é a "técnica MGF"?

— ameba diz Restabelecer Monica

@amoeba É o uso de funções geradoras de momento para determinar a distribuição de uma variável aleatória. No meu caso, refiro-me ao teorema de que e são independentes se e somente se , sendo igual a . Escolha qualquer outra técnica e estou confiante de que você chegará ao mesmo resultado.

Y_{1}

$Y_1$

Y_{2}

$Y_2$

M (t_{1}, t_{2}) = M (t_{1}, 0) \times M (0, t_{2})

$M(t_1,t_2)=M(t_1,0) \times M(0,t_2)$

M (t_{1}, t_{2})

$M(t_1,t_2)$

E (e^{t_{1} Y_{1} + t_{2} Y_{2}})

$E(e^{t_1Y_1+t_2Y_2})$

— JohnK

1

Você pode encontrar algumas dicas no encadeamento estreitamente relacionado em stats.stackexchange.com/questions/71260 .

— whuber

Você pode ter alguma intuição, considerando o que acontece com cada um destes se você adicionar algumas constantes, digamos , a cada . E o que acontece se você multiplicar cada por uma constante, dizem

μ

$\mu$

X

$X$

X

$X$

σ

$\sigma$

— RVL

1

Intimamente relacionado: referência para a soma e a diferença de variáveis altamente correlacionadas quase não correlacionadas .

— gung - Restabelece Monica

22

Estes são dados distribuídos normais padrão: gráfico de dispersão no primeiro sistema de coordenadas Observe que a distribuição é circularmente simétrica.

Ao alternar para e , você efetivamente gira e dimensiona o eixo, da seguinte maneira: Este novo sistema de coordenadas tem a mesma origem que o original e o eixo é ortogonal. Devido à simetria circular, as variáveis ainda são independentes no novo sistema de coordenadas. $Y_1 = X_2 - X_1$ $Y_2 = X_1 + X_2$ gráfico de dispersão com sistema de coordenadas rotacionado

— dobiwan
fonte

4

O resultado se aplica mesmo quando e estão correlacionados com as margens normais da unidade. Portanto, sua explicação cobre apenas uma subcaixa do resultado original. No entanto, a idéia básica aqui é sólida.

X_{1}

$X_1$

X_{2}

$X_2$

— Glen_b -Reinstate Monica

1

@ Glen_b, sim, você está certo. Eu queria focar em um caso simples, pois JohnK já parece saber como provar o caso geral, mas carece da compreensão intuitiva.

— Doiwan

7

O resultado funciona para conjunto normal (ou seja, com correlação, ), com comum . $(X_1,X_2)$ $-1<\rho<1$ $\sigma$

Se você conhece alguns resultados básicos, é tudo o que precisa:

$\quad\quad\quad$ insira a descrição da imagem aqui

a abordagem de dobiwan é essencialmente boa - é apenas que o resultado é mais geral do que o caso tratado lá.

— Glen_b -Reinstate Monica
fonte

3

+1 para reduzir o resultado desejado ao essencial. Acrescentarei que, para o caso mais geral de normalidade articular com variações desiguais, uma rotação de eixos por vez de implícito em produz aleatória normal independente variáveis.

θ = \frac{1}{2} \arctan (\frac{2 ρ \cdot σ_{1} σ_{2}}{σ_{1}^{2} - σ_{2}^{2}})

$\theta = \frac{1}{2}\arctan\left ( \frac{2\rho\cdot\sigma_1\sigma_2}{\sigma_1^2 - \sigma_2^2}\right )$

\pm \frac{π}{4}

$\pm \frac{\pi}{4}$

(X_{1}, X_{2}) \to (X_{1} + X_{2} . X_{1} - X_{2})

$(X_1,X_2) \to (X_1+X_2. X_1-X_2)$

— precisa saber é o seguinte

6

O resultado que você afirma ser verdadeiro geralmente não é verdadeiro, nem mesmo no caso em que tudo que se sabe é que e são variáveis aleatórias normais com variação idêntica, mas o resultado é válido para a interpretação usual da condição que você declarou mais tarde: $X_1$ $X_2$

Os subscritos não indicam Estatísticas da ordem, mas observações da distribuição normal padrão.

A interpretação usual das últimas palavras nesta declaração é, obviamente, que e são variáveis aleatórias independentes (normais) e, portanto, variáveis aleatórias comuns em conjunto . $X_1$ $X_2$

Para variáveis aleatórias normais comuns com variância idêntica, é verdade que e são variáveis aleatórias independentes (normais) (com variações gerais desiguais) e a explicação intuitiva para isso é melhor dada na resposta de Glen_b. Para o seu caso especial de e serem independentes, a resposta de dobiwan, que você aceitou, é mais simples e, de fato, revela que qualquer rotação dos eixos, não apenas pelo implícita na transformação , produzirá variáveis aleatórias independentes. $X_1+X_2$ $X_1-X_2$ $X_1$ $X_2$ $\pm \frac{\pi}{4}$ $(X_1,X_2)\to (X_1+X_2, X_1-X_2)$

O que pode ser dito em geral? Em tudo o que digo abaixo, lembre-se de que e têm a mesma variação , independentemente de outras propriedades que possam ser atribuídas a elas. $X$ $Y$

Se e são quaisquer variáveis aleatórias (Nota: Não necessariamente, normais) com variância idênticos, então e são não correlacionadas variáveis aleatórias (ou seja, eles têm covariância zero). Isso ocorre porque a função de covariância é bilinear : Aqui usamos o fato de que é apenas a variação $X$ $Y$ $X+Y$ $X-Y$

\begin{aligned} cov (X + Y, X - Y) & = cov (X, X) - cov (X, Y) + cov (Y, X) - cov (Y, Y) \\ = var (X) - cov (X, Y) + cov (X, Y) - var (Y) \\ = 0. \end{aligned}

$\begin{align} \operatorname{cov}(X+Y, X-Y) &= \operatorname{cov}(X,X) - \operatorname{cov}(X,Y) + \operatorname{cov}(Y,X) - \operatorname{cov}(Y,Y)\\ &= \operatorname{var}(X) - \operatorname{cov}(X,Y) + \operatorname{cov}(X,Y) - \operatorname{var}(Y)\\ &= 0. \end{align}$

cov (X, X)

$\operatorname{cov}(X,X)$

var (X)

$\operatorname{var}(X)$ de (e da mesma forma para ) e, é claro, . Observe que esse resultado é válido quando e são (marginalmente) variáveis aleatórias normais, mas não necessariamente variáveis aleatórias normais em conjunto . (Se você não está familiarizado com essa noção de normalidade marginal não ser a mesma que a normalidade das articulações, veja esta ótima resposta do cardeal). No caso especial, quando e são variáveis aleatórias normais conjuntamente normais (mas não necessariamente independentes), o mesmo acontece com e

X

$X$

Y

$Y$

cov (Y, X) = cov (X, Y)

$\operatorname{cov}(Y,X) = \operatorname{cov}(X,Y)$

X

$X$

Y

$Y$

X

$X$

Y

$Y$

X + Y

$X+Y$

X - Y

$X-Y$ conjuntamente normal e, como sua covariância é , e são variáveis aleatórias independentes.

0

$0$

X + Y

$X+Y$

X - Y

$X-Y$

— Dilip Sarwate
fonte

2

$X_1,X_2$ $Y_1$ $Y_2$ $0$ $Y_1,Y_2$

A média condicional

$X_1+X_2=y$ $X_1=x, X_2 = y-x$ $X_1 = y-x, X_2=x$

$X_1$ $X_2$ $X_1+X_2$ $X_1 \mid Y_2 = y$ $X_2 \mid Y_2 = y$

E (Y_{1} ∣ Y_{2} = y) = E (X_{1} - X_{2} ∣ X_{1} + X_{2} = y) = E (X_{1} ∣ X_{1} + X_{2} = y) - E (X_{2} ∣ X_{1} + X_{2} = y) = 0.

$\begin{equation} \mathbb{E}(Y_1 \mid Y_2 = y) = \mathbb{E}(X_1 - X_2 \mid X_1+X_2 = y) \\ = \mathbb{E}(X_1 \mid X_1+X_2 = y) - \mathbb{E}(X_2 \mid X_1+X_2 = y)= 0. \end{equation}$

(Advertência: não considerei a possibilidade de a média condicional não existir.)

Média condicional constante implica zero correlação / covariância

$Y_1$ $Y_2$ $Y_2$ $Y_1$ $Y_1$ $Y_2$

C o v (Y_{1}, Y_{2}) = E [(Y_{1} - E (Y_{1})) (Y_{2} - E (Y_{2}))]

$\begin{equation} Cov(Y_1,Y_2) = \mathbb{E}\left[\left(Y_1 - \mathbb{E}(Y_1)\right)\left(Y_2 -\mathbb{E}(Y_2) \right)\right] \end{equation}$

Y_{2}

$Y_2$

= E [E [(Y_{1} - E (Y_{1})) (Y_{2} - E (Y_{2})) ∣ Y_{2}]] = E [(Y_{2} - E (Y_{2})) E [Y_{1} - E (Y_{1}) ∣ Y_{2}]] .

$\begin{equation} = \mathbb{E}\left[\mathbb{E}\left[\left(Y_1 - \mathbb{E}(Y_1)\right)\left(Y_2 -\mathbb{E}(Y_2) \right) \mid Y_2\right]\right] = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\mathbb{E}\left[Y_1 - \mathbb{E}(Y_1) \mid Y_2\right] \right]. \end{equation}$

Y_{2}

$Y_2$

= E [(Y_{2} - E (Y_{2})) E [Y_{1} - E (Y_{1})]]

$\begin{equation} = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\mathbb{E}\left[Y_1-\mathbb{E}(Y_1)\right]\right] \end{equation}$

0

$0$

= E [(Y_{2} - E (Y_{2})) \times 0] = 0.

$\begin{equation} = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\times0\right] = 0. \end{equation}$

Independência

$X_1,X_2$ $Y_1$ $Y_2$ $X_1,X_2$ $Y_1,Y_2$

— Juho Kokkala
fonte