Como posso encontrar o desvio padrão do desvio padrão da amostra de uma distribuição normal?

Perdoe-me se eu perdi algo bastante óbvio.

Sou físico com o que é essencialmente uma distribuição (histograma) centrada em um valor médio que se aproxima de uma distribuição Normal. O valor importante para mim é o desvio padrão dessa variável aleatória gaussiana. Como eu tentaria encontrar o erro no desvio padrão da amostra? Eu tenho a sensação de que tem algo a ver com o erro em cada posição no histograma original.

— bronzeado
fonte

Uma dica é fornecida em stats.stackexchange.com/questions/26924 . Em geral, o erro de amostragem de uma variância pode ser calculado em termos dos quatro primeiros momentos da distribuição e, portanto, o erro de amostragem do DP pode ser estimado pelo menos a partir desses momentos.

— whuber

Respostas:

Parece que você está solicitando um cálculo do desvio padrão do desvio padrão da amostra. Ou seja, você está solicitando , em que ${\rm SD}(s) = \sqrt{ {\rm var}(s) }$

s = \sqrt{\frac{1}{n - 1} \sum_{i = 1}^{n} (X_{i} - \bar{X})},

$s = \sqrt{ \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \overline{X}) },$

$X_1, ..., X_n \sim N(\mu, \sigma^2)$ e é a média da amostra. $\overline{X}$

Primeiro, sabemos pelas propriedades básicas da variação que

v a r (s) = E (s^{2}) - E (s)^{2}

${\rm var}(s) = E(s^2) - E(s)^2$

Como a variação da amostra é imparcial, sabemos que . Em Por que o desvio padrão da amostra é um estimador enviesado de ? , é calculado, a partir do qual podemos inferir $E(s^2) = \sigma^2$ $\sigma$ $E(s)$

E (s)^{2} = \frac{2 σ^{2}}{n - 1} \cdot {(\frac{Γ (n / 2)}{Γ (\frac{n - 1}{2})})}^{2}

$E(s)^2 = \frac{2 \sigma^2 }{n-1} \cdot \left( \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \right)^2$

Portanto

S D (s) = \sqrt{E (s^{2}) - E (s)^{2}} = σ \sqrt{1 - \frac{2}{n - 1} \cdot {(\frac{Γ (n / 2)}{Γ (\frac{n - 1}{2})})}^{2}}

${\rm SD}(s) = \sqrt{ E(s^2) - E(s)^2 } = \sigma \sqrt{ 1 - \frac{2}{n-1} \cdot \left( \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \right)^2 }$

— Macro
fonte

Bom ponto. Eu tenho uma estimativa da variância de s ^ 2. A raiz quadrada fornece uma estimativa do desvio padrão de s ^ 2. Mas você respondeu à pergunta real que era obter o desvio padrão de s. Suponho que, por razões práticas, você também substitua σ por s para obter uma estimativa usando a fórmula.

— Michael R. Chernick 8/12

Sim, está certo, você pode substituir por e essa aproximação funciona bem mesmo para tamanhos de amostra modestos - eu fiz alguns testes com .

σ

$\sigma$

s

$s$

n = 20

$n=20$

— Macro

A quantidade tem uma distribuição qui-quadrado com graus de liberdade quando as amostras são independentes e distribuídas com a mesma distribuição normal Essa quantidade pode ser usada para obter confiança intervalos para a variação do normal e seu desvio padrão. Se você tiver os valores brutos e não apenas o valor central dos compartimentos, poderá calcular . $X=(n-1) s^2/\sigma^2$ $n-1$ $s^2$

Sabe-se que se tem uma distribuição qui-quadrado com graus de liberdade, sua variância é . Sabendo disso e do fato de que obtemos que tem uma variação igual a Embora seja desconhecido, você pode aproximar por e você tem uma idéia aproximada de qual é a variação de . $X$ $n-1$ $2(n-1)$ $\mathrm{Var}(cX) = c^2 \mathrm{Var}(X)$ $s^2$

\frac{2 (n - 1) σ^{4}}{(n - 1)^{2}} = \frac{2 σ^{4}}{n - 1} .

$\frac{2(n-1)\sigma^4}{(n-1)^2} =\frac{2\sigma^4}{n-1} \>.$

σ^{4}

$\sigma^4$

s^{4}

$s^4$

s^{2}

$s^2$

— Michael R. Chernick
fonte

Eu ia postar isso no começo, mas o problema que eu vejo aqui é que é desconhecido. Dado esse fato, não sei se é válido aproximar-se de se nem sabemos o tamanho da amostra. Lembro que se pode mostrar que o quarto momento pode ter sérios problemas com valores extremos.

σ^{2}

$\sigma^2$

s^{4} \approx σ^{4}

$s^4\approx \sigma^4$

— Néstor

s^{4}

$s^4$ é um estimador consistente de (desde que exista ), certo @Nesp? Eu acho que isso é geralmente o que se quer dizer quando as pessoas dizem "aproximado" ou "idéia grosseira".

σ^{4}

$\sigma^4$

σ^{4}

$\sigma^4$

— Macro

Talvez seja a falta de sono, mas não é esse o raciocínio circular?

— Néstor

Assumimos desde o início que os dados vieram de uma distribuição normal, para que não haja nenhum problema externo. Eu quis dizer duro da maneira que Macro sugere. Concordo que o tamanho da amostra afeta a proximidade de s ^ 4 de σ ^ 4. Mas a preocupação com discrepâncias está fora da base da Nesp. Se você me criticou por isso, acho muito injusto. O que apresentei foi a maneira padrão de estimar o desvio padrão para s ^ 2 quando os dados são NORMALMENTE DISTRIBUÍDOS.

— Michael R. Chernick

@Nesp, Michael forneceu um estimador consistente da variação do desvio padrão da amostra em relação a uma amostra normalmente distribuída - para amostras grandes, será bom - simule e descubra. Não sei por que você acha que esse é um raciocínio circular.

— Macro

Existem várias maneiras de quantificar o erro do desvio padrão no caso normal. Vou apresentar a probabilidade de perfil de que pode ser usada para aproximar os intervalos de confiança. $\sigma$

Seja uma amostra de um Normal . A função de probabilidade correspondente é dada por $x=(x_1,...,x_n)$ $(\mu,\sigma)$

L (μ, σ) \propto \frac{1}{σ^{n}} \exp (- \frac{1}{2 σ^{2}} \sum_{j = 1}^{n} (x_{j} - μ)^{2})

${\mathcal L}(\mu,\sigma) \propto \dfrac{1}{\sigma^n}\exp\left(-\dfrac{1}{2\sigma^2}\sum_{j=1}^n(x_j-\mu)^2\right)$

Então, os estimadores de máxima verossimilhança são dados por , onde . Como você está interessado em quantificar o erro no , é possível calcular a probabilidade de perfil normalizado desse parâmetro da seguinte maneira. $(\hat\mu,\hat\sigma)=(\bar x,s)$ $s=\sqrt{\dfrac{1}{n}\sum_{j=1}^n(x_j-\bar x)^2}$ $\sigma$

R_{p} (σ) = \frac{sup_{μ} L (μ, σ)}{L (\hat{μ}, \hat{σ})} = {(\frac{\hat{σ}}{σ})}^{n} \exp [\frac{n}{2} (1 - {(\frac{\hat{σ}}{σ})}^{2})]

$R_p(\sigma)=\dfrac{\sup_{\mu}{\mathcal L}(\mu,\sigma)}{{\mathcal L}(\hat\mu,\hat\sigma)} = \left(\dfrac{\hat\sigma}{\sigma}\right)^n\exp\left[\dfrac{n}{2}\left(1-\left(\dfrac{\hat\sigma}{\sigma}\right)^2\right)\right]$

Observe que . Um intervalo de nível possui uma confiança aproximada de . Em seguida, anexo um código que pode ser usado para calcular esses intervalos. Você pode modificá-lo de acordo com o seu contexto (ou se você postar os dados, posso incluir essas alterações). $R_p:{\mathbb R}_+\rightarrow (0,1]$ $0.147$ $0.95$ $R$

data = rnorm(30)
n = length(data)
sg = sqrt(mean((data-mean(data))^2))
# Profile likelihood
rp = function(sigma) return( (sg/sigma)^n*exp(0.5*n*(1-(sg/sigma)^2))  )
vec = rvec = seq(0.5,1.5,0.01)
for(i in 1:length(rvec)) rvec[i] = rp(vec[i])
plot(vec,rvec,type="l")
rpc = function(sigma) return(rp(sigma)-0.147)
# Approximate 95% confidence interval
c(uniroot(rpc,c(0.7,0.8))$root,uniroot(rpc,c(1.1,1.3))$root)

Uma vantagem desse tipo de intervalo é que eles são invariantes sob transformações. Nesse caso, se você calcular um intervalo para , , o intervalo correspondente para será simplesmente . $\sigma$ $I=(L,U)$ $\sigma^2$ $I^{\prime}=(L^2,U^2)$

Eu acho que ele realmente só queria o desvio padrão de s.

— Michael R. Chernick