A variação de uma soma é igual à soma das variações?

62

É (sempre) verdade que

V a r (\sum_{i = 1}^{m} X_{i}) = \sum_{i = 1}^{m} V a r (X_{i}) ?

$\mathrm{Var}\left(\sum\limits_{i=1}^m{X_i}\right) = \sum\limits_{i=1}^m{\mathrm{Var}(X_i)} \>?$

variance

— Abe
fonte

3

As respostas abaixo fornecem a prova. A intuição pode ser vista no caso simples var (x + y): se xey são correlacionados positivamente, ambos tendem a ser grandes / pequenos juntos, aumentando a variação total. Se eles estiverem correlacionados negativamente, tenderão a se cancelar, diminuindo a variação total.

— Assad Ebrahim

91

A resposta para sua pergunta é "Às vezes, mas não em geral".

Para ver isso sejam variáveis aleatórias (com variações finitas). Então, $X_1, ..., X_n$

v a r (\sum_{i = 1}^{n} X_{i}) = E ({[\sum_{i = 1}^{n} X_{i}]}^{2}) - {[E (\sum_{i = 1}^{n} X_{i})]}^{2}

${\rm var} \left( \sum_{i=1}^{n} X_i \right) = E \left( \left[ \sum_{i=1}^{n} X_i \right]^2 \right) - \left[ E\left( \sum_{i=1}^{n} X_i \right) \right]^2$

Agora observe que , o que fica claro se você pense no que você está fazendo ao calcular manualmente. Portanto, $(\sum_{i=1}^{n} a_i)^2 = \sum_{i=1}^{n} \sum_{j=1}^{n} a_i a_j$ $(a_1+...+a_n) \cdot (a_1+...+a_n)$

E ({[\sum_{i = 1}^{n} X_{i}]}^{2}) = E (\sum_{i = 1}^{n} \sum_{j = 1}^{n} X_{i} X_{j}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} E (X_{i} X_{j})

$E \left( \left[ \sum_{i=1}^{n} X_i \right]^2 \right) = E \left( \sum_{i=1}^{n} \sum_{j=1}^{n} X_i X_j \right) = \sum_{i=1}^{n} \sum_{j=1}^{n} E(X_i X_j)$

similarmente,

{[E (\sum_{i = 1}^{n} X_{i})]}^{2} = {[\sum_{i = 1}^{n} E (X_{i})]}^{2} = \sum_{i = 1}^{n} \sum_{j = 1}^{n} E (X_{i}) E (X_{j})

$\left[ E\left( \sum_{i=1}^{n} X_i \right) \right]^2 = \left[ \sum_{i=1}^{n} E(X_i) \right]^2 = \sum_{i=1}^{n} \sum_{j=1}^{n} E(X_i) E(X_j)$

tão

v a r (\sum_{i = 1}^{n} X_{i}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} (E (X_{i} X_{j}) - E (X_{i}) E (X_{j})) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} c o v (X_{i}, X_{j})

${\rm var} \left( \sum_{i=1}^{n} X_i \right) = \sum_{i=1}^{n} \sum_{j=1}^{n} \big( E(X_i X_j)-E(X_i) E(X_j) \big) = \sum_{i=1}^{n} \sum_{j=1}^{n} {\rm cov}(X_i, X_j)$

pela definição de covariância.

Agora, com relação A variação de uma soma é igual à soma das variações? :

Se as variáveis não estiverem correlacionadas, sim : isto é, para , então ${\rm cov}(X_i,X_j)=0$ $i\neq j$
$v a r (\sum_{i = 1}^{n} X_{i}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} c o v (X_{i}, X_{j}) = \sum_{i = 1}^{n} c o v (X_{i}, X_{i}) = \sum_{i = 1}^{n} v a r (X_{i})$ ${\rm var} \left( \sum_{i=1}^{n} X_i \right) = \sum_{i=1}^{n} \sum_{j=1}^{n} {\rm cov}(X_i, X_j) = \sum_{i=1}^{n} {\rm cov}(X_i, X_i) = \sum_{i=1}^{n} {\rm var}(X_i)$
Se as variáveis estiverem correlacionadas, não, não em geral : por exemplo, suponha que sejam duas variáveis aleatórias, cada uma com variação e que . Então , para que a identidade falhe. $X_1, X_2$ $\sigma^2$ ${\rm cov}(X_1,X_2)=\rho$ $0 < \rho <\sigma^2$ ${\rm var}(X_1 + X_2) = 2(\sigma^2 + \rho) \neq 2\sigma^2$
mas é possível para certos exemplos : suponha que tenham matriz de covariância então $X_1, X_2, X_3$
$(\begin{array}{ccc} 1 & 0.4 & - 0.6 \\ 0.4 & 1 & 0.2 \\ - 0.6 & 0.2 & 1 \end{array})$ $\left( \begin{array}{ccc} 1 & 0.4 &-0.6 \\ 0.4 & 1 & 0.2 \\ -0.6 & 0.2 & 1 \\ \end{array} \right)$ ${\rm var}(X_1+X_2+X_3) = 3 = {\rm var}(X_1) + {\rm var}(X_2) + {\rm var}(X_3)$

Portanto, se as variáveis não estão correlacionadas , a variação da soma é a soma das variações, mas o inverso não é verdadeiro em geral.

— Macro
fonte

Com relação ao exemplo de matriz de covariância, está o seguinte correto: a simetria entre os triângulos superior direito e inferior esquerdo reflete o fato de que , mas a simetria entre o canto superior esquerdo e o canto inferior direito (nesse caso, é apenas parte do exemplo, mas pode ser substituído por dois diferentes números que somam por exemplo, e Obrigado novamente?.

cov (X_{i}, X_{j}) = cov (X_{j}, X_{i})

$\text{cov}(X_i,X_j)=\text{cov}(X_j,X_i)$

cov (X_{1}, X_{2}) = cov (X_{2}, X_{3}) = 0.3

$\text{cov}(X_1, X_2) = \text{cov}(X_2,X_3) = 0.3$

0.6

$0.6$

cov (X_{1}, X_{2}) = a

$\text{cov}(X_1, X_2) = a$

cov (X_{2}, X, 3) = 0.6 - a

$\text{cov}(X_2,X,3) = 0.6 -a$

— Abe

41

Var (\sum_{i = 1}^{m} X_{i}) = \sum_{i = 1}^{m} Var (X_{i}) + 2 \sum_{i < j} Cov (X_{i}, X_{j}) .

$\text{Var}\bigg(\sum_{i=1}^m X_i\bigg) = \sum_{i=1}^m \text{Var}(X_i) + 2\sum_{i\lt j} \text{Cov}(X_i,X_j).$

Portanto, se as covariâncias forem médias a , o que seria uma conseqüência se as variáveis não forem correlacionadas aos pares ou se forem independentes, a variação da soma é a soma das variações. $0$

Um exemplo em que isso não é verdade: Let . Deixe . Então . $\text{Var}(X_1)=1$ $X_2 = X_1$ $\text{Var}(X_1 + X_2) = \text{Var}(2X_1)=4$

— Douglas Zare
fonte

Raramente será verdade para variações de amostra.

— Dwin

11

@DWin, "raro" é um eufemismo - se os s têm uma distribuição contínua, a probabilidade de que a variância da amostra da soma é igual à soma das variâncias amostrais exatamente 0 :)

X

$X$

— Macro

15

Eu só queria adicionar uma versão mais sucinta da prova fornecida pela Macro, para que seja mais fácil ver o que está acontecendo. $\newcommand{\Cov}{\text{Cov}}\newcommand{\Var}{\text{Var}}$

Observe que, já que $\Var(X) = \Cov(X,X)$

Para quaisquer duas variáveis aleatórias , temos: $X,Y$

\begin{aligned} Var (X + Y) & = Cov (X + Y, X + Y) \\ = E ((X + Y)^{2}) - E (X + Y) E (X + Y) \\ by expanding, \\ = E (X^{2}) - (E (X))^{2} + E (Y^{2}) - (E (Y))^{2} + 2 (E (X Y) - E (X) E (Y)) \\ = Var (X) + Var (Y) + 2 (E (X Y)) - E (X) E (Y)) \end{aligned}

$\begin{align} \Var(X+Y) &= \Cov(X+Y,X+Y) \\ &= E((X+Y)^2)-E(X+Y)E(X+Y) \\ &\text{by expanding,} \\ &= E(X^2) - (E(X))^2 + E(Y^2) - (E(Y))^2 + 2(E(XY) - E(X)E(Y)) \\ &= \Var(X) + \Var(Y) + 2(E(XY)) - E(X)E(Y)) \\ \end{align}$ Portanto, em geral, a variação da soma de duas variáveis aleatórias não é a soma das variações. No entanto, se são independentes, então , e temos .

X, Y

$X,Y$

E (X Y) = E (X) E (Y)

$E(XY) = E(X)E(Y)$

Var (X + Y) = Var (X) + Var (Y)

$\Var(X+Y) = \Var(X) + \Var(Y)$

Observe que podemos produzir o resultado para a soma de variáveis aleatórias por uma simples indução. $n$

— Omar Haque
fonte

11

Sim, se cada par de não estiver correlacionado, isso é verdade. $X_i$

Veja a explicação na Wikipedia

— Abe
fonte

Concordo. Você também encontra uma (r) explicação simples sobre o Insight Things .

— Jan Rothkegel