Diferença entre erro padrão e desvio padrão

Estou lutando para entender a diferença entre o erro padrão e o desvio padrão. Como eles são diferentes e por que você precisa medir o erro padrão?

$\sigma \, / \, \sqrt{n}$$\sigma$

Aqui está uma resposta mais prática (e não matemática):

• O SD (desvio padrão) quantifica a dispersão - quanto os valores variam um do outro.
• O SEM (erro padrão da média) quantifica com que precisão você conhece a verdadeira média da população. Ele leva em consideração o valor do SD e o tamanho da amostra.
• SD e SEM estão nas mesmas unidades - as unidades dos dados.
• O SEM, por definição, é sempre menor que o SD.
• O SEM fica menor à medida que suas amostras ficam maiores. Isso faz sentido, porque é provável que a média de uma amostra grande esteja mais próxima da média real da população do que a média de uma amostra pequena. Com uma amostra enorme, você saberá o valor da média com muita precisão, mesmo que os dados estejam muito dispersos.
• O SD não muda previsivelmente à medida que você adquire mais dados. O SD que você calcula a partir de uma amostra é a melhor estimativa possível do SD da população em geral. À medida que você coleta mais dados, avalia o SD da população com mais precisão. Mas você não pode prever se o SD de uma amostra maior será maior ou menor que o SD de uma amostra pequena. (Isso é uma simplificação, não é bem verdade. Veja os comentários abaixo.)

Observe que os erros padrão podem ser calculados para quase qualquer parâmetro que você calcula a partir dos dados, não apenas a média. A frase "o erro padrão" é um pouco ambígua. Os pontos acima se referem apenas ao erro padrão da média.

(Do GraphPad Statistics Guide que escrevi.)

$\theta$$\mathbf{x} = \{x_1, \ldots, x_n \}$$\theta$$\hat{\theta}(\mathbf{x})$$\hat{\theta}(\mathbf{x})$$\mathbf{x}$$\tilde{\mathbf{x}}$$\hat{\theta}(\tilde{\mathbf{x}})$$\hat{\theta}(\mathbf{x})$$\hat{\theta}$$\hat{\theta}(\mathbf{x})$$\hat{\theta}$

(observe que estou focando no erro padrão da média, que acredito ser o questionador, mas você pode gerar um erro padrão para qualquer estatística de amostra)

O erro padrão está relacionado ao desvio padrão, mas eles não são a mesma coisa e o aumento do tamanho da amostra não os aproxima. Pelo contrário, torna-os mais afastados. O desvio padrão da amostra fica mais próximo do desvio padrão da população à medida que o tamanho da amostra aumenta, mas não o erro padrão.

Às vezes, a terminologia em torno disso é um pouco grossa para passar.

Quando você reúne uma amostra e calcula o desvio padrão dessa amostra, à medida que a amostra cresce em tamanho, a estimativa do desvio padrão se torna cada vez mais precisa. Parece da sua pergunta que era nisso que você estava pensando. Mas considere também que a média da amostra tende a estar mais próxima da média da população em média. Isso é fundamental para entender o erro padrão.

O erro padrão é sobre o que aconteceria se você obtivesse várias amostras de um determinado tamanho. Se você tirar uma amostra de 10, poderá obter uma estimativa da média. Depois, você tira outra amostra de 10 e nova estimativa média, e assim por diante. O desvio padrão das médias dessas amostras é o erro padrão. Dado que você fez sua pergunta, provavelmente poderá ver agora que, se o N for alto, o erro padrão será menor, porque será menos provável que as médias das amostras se desviem muito do valor real.

Para alguns, isso parece meio milagroso, pois você calculou isso a partir de uma amostra. Portanto, o que você pode fazer é iniciar um erro padrão por meio de simulação para demonstrar o relacionamento. Em R, seria assim:

# the size of a sample
n <- 10
# set true mean and standard deviation values
m <- 50
s <- 100

# now generate lots and lots of samples with mean m and standard deviation s
# and get the means of those samples. Save them in y.
y <- replicate( 10000, mean( rnorm(n, m, s) ) )
# standard deviation of those means
sd(y)
# calcuation of theoretical standard error
s / sqrt(n)

Você verá que esses dois últimos comandos geram o mesmo número (aproximadamente). Você pode variar os valores de n, m e se eles sempre saem bem próximos um do outro.