Por que o desvio padrão é definido como sqrt da variação e não como sqrt da soma dos quadrados sobre N?

Hoje eu ensinei uma aula introdutória de estatística e um aluno veio até mim com uma pergunta, que refiz aqui: "Por que o desvio padrão é definido como sqrt de variação e não como sqrt da soma dos quadrados sobre N?"

Definimos variância populacional: $\sigma^2=\frac{1}{N}\sum{(x_i-\mu)^2}$

E desvio padrão: $\sigma=\sqrt{\sigma^2}=\frac{1}{\sqrt{N}}\sqrt{\sum{(x_i-\mu)^2}}$ .

A interpretação que pode dar a $\sigma$ é que dá o desvio médio de unidades na população a partir da média da população de $X$ .

No entanto, na definição do sd, dividimos o sqrt da soma dos quadrados por $\sqrt{N}$ . A questão do aluno levanta é por isso que não dividir o sqrt do sume de quadrados por$N$vez. Assim, chegamos à fórmula da concorrência:

$$\sigma_{new}=\frac{1}{N}\sqrt{\sum{(x_i-\mu)^2}}.$$ O aluno argumentou que esta fórmula se parece mais com um desvio "médio" da média do que ao dividir por$\sqrt{N}$ como em$\sigma$.

Eu pensei que esta pergunta não é estúpida. Eu gostaria de dar uma resposta ao aluno que vai além de dizer que o sd é definido como sqrt da variância, que é o desvio quadrado médio. Em outras palavras, por que o aluno deve usar a fórmula correta e não seguir sua ideia?

Esta pergunta está relacionada a um tópico e respostas mais antigos fornecidos aqui . As respostas vão em três direções:

1. $\sigma$ é o desvio da raiz média quadrática (RMS), não o desvio "típico" da média (ou seja,$\sigma_{new}$ ). Assim, é definido de forma diferente.
2. Tem boas propriedades matemáticas.
3. Além disso, o sqrt traria de volta "unidades" para sua escala original. No entanto, este também seria o caso para $\sigma_{new}$ , que se divide por $N$ , em vez.

Ambos os pontos 1 e 2 são argumentos a favor do sd como RMS, mas não vejo um argumento contra o uso de $\sigma_{new}$ . Quais seriam os bons argumentos para convencer os alunos do nível introdutório do uso da distância média do RMS $\sigma$ à média?

Existem pelo menos três problemas básicos que podem ser facilmente explicados aos iniciantes:

1. O "novo" SD nem é definido para populações infinitas. (Pode-se declarar que sempre é igual a zero nesses casos, mas isso não tornaria mais útil.)

2. O novo SD não se comporta da maneira que uma média deve fazer sob amostragem aleatória.

3. Embora o novo DS possa ser usado com todo o rigor matemático para avaliar desvios de uma média (em amostras e populações finitas), sua interpretação é desnecessariamente complicada.

1. A aplicabilidade do novo SD é limitada

O ponto (1) pode ser trazido para casa, mesmo para aqueles que não são versados ​​em integração, salientando que, como a variação é claramente uma média aritmética (de desvios quadrados), ela tem uma extensão útil para modelos de populações "infinitas" para as quais o a intuição da existência de uma média aritmética ainda se mantém. Portanto, sua raiz quadrada - o SD habitual - também está perfeitamente bem definida nesses casos, e é tão útil em seu papel quanto uma (reexpressão não linear de) uma variação. No entanto, o novo SD divide essa média pelo √ arbitrariamente grande , tornando problemática sua generalização além de populações finitas e amostras finitas: o que deve1/$\sqrt{N}$ é considerado igual nesses casos?$1/\sqrt{N}$

2. O novo SD não é uma média

Qualquer estatística digna do nome "média" deve ter a propriedade de convergir para o valor da população à medida que o tamanho de uma amostra aleatória da população aumenta. Qualquer múltiplo fixo do SD teria essa propriedade, porque o multiplicador se aplicaria ao cálculo do SD de amostra e do SD da população. (Embora não contradiga diretamente o argumento oferecido por Alecos Papadopoulos, essa observação sugere que o argumento é tangencial apenas aos problemas reais.) No entanto, o "novo" SD, sendo igual a vezes o usual, obviamente converge para0em todas as circunstâncias, como o tamanho da amostra$1/\sqrt{N}$$0$$N$ aumenta. Portanto, embora para qualquer tamanho fixo de amostra o novo DP (interpretado adequadamente) seja uma medida de variação perfeitamente adequada em torno da média,$N$ não pode justificadamente ser considerada uma medida universal aplicável, com a mesma interpretação, para todos os tamanhos de amostra, nem pode ser corretamente chamado de "média" em qualquer sentido útil.

3. O novo SD é complicado de interpretar e usar

Considere coletar amostras do tamanho (digamos) . O novo SD nesses casos é$N=4$vezes o SD habitual. Por isso, possui interpretações comparáveis, como um análogo da regra 68-95-99 (cerca de 68% dos dados devem estar dentro dedoisnovos SDs da média, 95% deles emquatronovos SDs da média,etc.; e versões de desigualdades clássicos, como o domínio de Chebychev vontade (não mais do que1/k2dos dados pode mentir mais de2knovas SDs longe de sua média) eo Teorema do Limite Central pode ser analogamente atualizado em termos do novo SD (um divide por$1/\sqrt{N}=1/2$$1/k^2$$2k$ vezes o novo SD para padronizar a variável). Assim, nesse sentido específico e claramente restrito,não há nada de errado com a proposta do aluno. A dificuldade, porém, é que todas essas declarações contêm - de maneira bastante explícita - fatores de$\sqrt{N}$. Embora não exista nenhum problema matemático inerente a isso, certamente complica as afirmações e a interpretação das leis mais fundamentais da estatística.$\sqrt{N}=2$

---

É de notar que Gauss e outros originalmente parametrizaram a distribuição gaussiana por , efetivamente usando$\sqrt{2}\sigma$ vezes o DP para quantificar a propagação de uma variável aleatória Normal. Esse uso histórico demonstra a adequação e eficácia do uso de outros$\sqrt{2}$ múltiplos fixos do SD em seu lugar.

Assume that your sample contains only two realizations. I guess an intuitive measure of dispersion would be the average absolute deviation (AAD)

$$AAD = \frac 12 (|x_1-\bar x| + |x_2-\bar x|) = ...= \frac {|x_1-x_2|}{2}$$

So we would want other measures of dispersion at the same level of units of measurement to be "close" to the above.

The sample variance is defined as

$$\sigma^2=\frac{1}{2}[(x_1-\bar x)^2 + (x_2-\bar x)^2] = \frac 12 \left[\left(\frac {x_1-x_2}{2}\right)^2 + \left(\frac {x_2-x_1}{2}\right)^2\right]$$

$$=\frac 12 \left[\frac {(x_1-x_2)^2}{4} + \frac {(x_1-x_2)^2}{4}\right]=\frac 12 \frac {(x_1-x_2)^2}{2}$$

$$=\frac 12\cdot \frac {|x_1-x_2|^2}{2}$$

To return to the original units of measurement, if we did as the student wondered/suggested,we would obtain the measure, call it $q$

$$q \equiv \frac 12\cdot \sqrt {\frac {|x_1-x_2|^2}{2}} = \frac 12 \frac {|x_1-x_2|}{\sqrt 2} = \frac 1{\sqrt 2} AAD < AAD$$

i.e. we would have "downplayed" the "intuitive" measure of dispersion, while if we have considered the standard deviation as defined,

$$SD \equiv \sqrt {\sigma^2} = \frac {|x_1-x_2|}{2} =AAD$$

Since we want to "stay as close as possible" to the intuitive measure, we should use $SD$.

ADDENDUM
Let's consider now a sample of size $n$ We have

$$n\cdot AAD = \sum_{i=1}^n |x_i-\bar x|$$

and

$$n \cdot \text{Var}(X) = \sum_{i=1}^n (x_i-\bar x)^2 = \sum_{i=1}^n |x_i-\bar x|^2$$

we can write the right-hand side of the variance expression as

$$\sum_{i=1}^n |x_i-\bar x|^2 = \left(\sum_{i=1}^n |x_i-\bar x|\right)^2 - \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|$$

$$= \left (n\cdot AAD\right)^2 - \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|$$

Then the dispersion measure $q_n$ will be

$$q_n \equiv \frac 1n \left[n^2\cdot AAD^2 - \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|\right]^{1/2}$$

$$= \left[AAD^2 - \frac 1{n^2} \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|\right]^{1/2}$$

Now think informally: note that $\sum_{j\neq i} |x_i-\bar x||x_j-\bar x|$ contains $n^2-n$ terms, and so divided by $n^2$ will left us with "one term in the second power". But also "one term in the 2nd power" is what we have in $AAD^2$: this is a primitive way to "sense" why $q_n$ will tend to zero as $n$ grows large. On the other hand the Standard Deviation as defined would be

$$SD \equiv \frac 1{\sqrt n} \left[n^2\cdot AAD^2 - \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|\right]^{1/2}$$

$$= \left[n\cdot AAD^2 - \frac 1{n} \sum_{j\neq i} |x_i-\bar x||x_j-\bar x|\right]^{1/2}$$

Continuing are informal thinking, the first term gives us $n$ "terms in the 2nd power", while the second term gives us $n-1$ "terms in the second power" . So we will be left eventually with one such term, as $n$ grows large, and then we will take its square root.
This does not mean that the Standard Deviation as defined will equal the Average Absolute Deviation in general (it doesn't), but it does show that it is suitably defined so as to be "on a par" with it for any $n$, as well as for the case when $n\rightarrow \infty$.