Correção de viés na variância ponderada

Para variação não ponderada , existe a variação da amostra corrigida por viés, quando a média foi estimada a partir dos mesmos dados:

Var (X) : = \frac{1}{n} \sum_{Eu} (x_{Eu} - μ)^{2}

$\text{Var}(X):=\frac{1}{n}\sum_i(x_i - \mu)^2$

Var (X) : = \frac{1}{n - 1} \sum_{Eu} (x_{Eu} - E [X])^{2}

$\text{Var}(X):=\frac{1}{n-1}\sum_i(x_i - E[X])^2$

Estou analisando a média ponderada e a variação, e imaginando qual é a correção de viés apropriada para a variação ponderada. Usando:

significar (X) : = \frac{1}{\sum_{Eu} ω_{Eu}} \sum_{Eu} ω_{Eu} x_{Eu}

$\text{mean}(X):=\frac{1}{\sum_i \omega_i}\sum_i \omega_i x_i$

A variação "ingênua" e não corrigida que estou usando é a seguinte:

Var (X) : = \frac{1}{\sum_{Eu} ω_{Eu}} \sum_{Eu} ω_{Eu} (x_{Eu} - significar (X))^{2}

$\text{Var}(X):=\frac{1}{\sum_i \omega_i}\sum_i\omega_i(x_i - \text{mean}(X))^2$

Então, eu estou me perguntando se a maneira correta de corrigir o viés é

Var (X) : = \frac{1}{\sum_{Eu} ω_{Eu} - 1} \sum_{Eu} ω_{Eu} (x_{Eu} - significar (X))^{2}

$\text{Var}(X):=\frac{1}{\sum_i \omega_i - 1}\sum_i\omega_i(x_i - \text{mean}(X))^2$

ou B)

Var (X) : = \frac{n}{n - 1} \frac{1}{\sum_{Eu} ω_{Eu}} \sum_{Eu} ω_{Eu} (x_{Eu} - significar (X))^{2}

$\text{Var}(X):=\frac{n}{n-1}\frac{1}{\sum_i \omega_i}\sum_i\omega_i(x_i - \text{mean}(X))^2$

ou C)

Var (X) : = \frac{\sum_{Eu} ω_{Eu}}{(\sum_{Eu} ω_{Eu})^{2} - \sum_{Eu} ω_{Eu}^{2}} \sum_{Eu} ω_{Eu} (x_{Eu} - significar (X))^{2}

$\text{Var}(X):=\frac{\sum_i \omega_i}{(\sum_i \omega_i)^2-\sum_i \omega_i^ 2}\sum_i\omega_i(x_i - \text{mean}(X))^2$

A) não faz sentido para mim quando os pesos são pequenos. O valor da normalização pode ser 0 ou até negativo. Mas e quanto a B) ( é o número de observações) - essa é a abordagem correta? Você tem alguma referência que mostra isso? Eu acredito "Atualizando estimativas de média e variância: um método aprimorado", DHD West, 1979 usa isso. O terceiro, C) é a minha interpretação da resposta a esta pergunta: /mathpro/22203/unbiated-estimate-of-the-variance-of-an-unnormalised-weighted-mean $n$

Para C) acabei de perceber que o denominador se parece muito com . Existe alguma conexão geral aqui? Eu acho que não está totalmente alinhado; e obviamente existe a conexão que estamos tentando calcular a variação ... $\text{Var}(\Omega)$

Todos os três parecem "sobreviver" à verificação de sanidade de definir todos . Então, qual devo usar e em quais premissas? '' Update: '' whuber sugeriu também fazer a verificação de sanidade com e todos os restantes tiny. Isso parece excluir A e B. $\omega_i=1$ $\omega_1=\omega_2=.5$ $\omega_i=\epsilon$

— Anony-Mousse
fonte

Quando você considera os casos em que os dois maiores pesos são iguais e o restante se torna extremamente pequeno, ambos (A) e (B) caem da disputa (porque discordam dos resultados conhecidos para

). (C) parece ser uma aproximação; Suspeito que o fator correto seja uma função muito mais complicada dos pesos.

n = 2

$n=2$

— whuber

@whuber O ThePawn abaixo sugere que é C. Você tem preocupações mais detalhadas?

— Anony-Mousse

A solução (A) funciona, eu a implementei no passado e posso confirmar a partir de testes empíricos que ela fornece os resultados corretos. No entanto, você só deve usar valores inteiros para pesos e> 0.

— gaborous

Obrigado! Isso me ajudou muito a seguir o caminho certo quando os pesos são para uma média móvel exponencial! Acontece que a maneira ingênua de calcular a variação realmente a superestima por um fator constante de 2, além da pequena correção (1-1 / n) que aparece analogicamente ao cálculo simples da média móvel. Esse é um caso especial particularmente louco!

— saolof 28/11

Respostas:

Passei pela matemática e acabei com a variante C:

V uma r (X) = \frac{(\sum_{Eu} ω_{Eu})^{2}}{(\sum_{Eu} ω_{Eu})^{2} - \sum_{Eu} ω_{Eu}^{2}} \bar{V}

$Var(X) = \frac{(\sum_i \omega_i)^2}{(\sum_i \omega_i)^2 - \sum_i \omega_i^2}\overline V$

\bar{V}

$\overline V$

ω_{i}

$\omega_i$

$\lambda_i = \frac{\omega_i}{\sum_i \omega_i}$

\bar{V} = \sum_{Eu} λ_{Eu} (x_{Eu} - \sum_{j} λ_{j} x_{j})^{2}

$\overline V = \sum_i \lambda_i (x_i - \sum_j \lambda_j x_j)^2$

(x_{Eu} - \sum_{j} λ_{j} x_{j})^{2} = x_{Eu}^{2} + \sum_{j, k} λ_{j} λ_{k} x_{j} x_{k} - 2 \sum_{j} λ_{j} x_{Eu} x_{j}

$(x_i - \sum_j \lambda_j x_j)^2 = x_i^2 + \sum_{j, k} \lambda_j \lambda_k x_j x_k - 2 \sum_j \lambda_j x_i x_j$

$E[x_i x_j] = Var(X)1_{i = j} + E[X]^2$ $E[X]$

E [\bar{V}] = V uma r (X) \sum_{Eu} λ_{Eu} (1 + \sum_{j} λ_{j}^{2} - 2 λ_{Eu})

$E[\overline V] = Var(X) \sum_i \lambda_i (1 + \sum_j \lambda_j^2- 2 \lambda_i )$

E [\bar{V}] = V uma r (X) (1 - \sum_{j} λ_{j}^{2})

$E[\overline V] = Var(X) (1 - \sum_j \lambda_j^2)$

λ_{i}

$\lambda_i$

ω_{i}

$\omega_i$

— ThePawn
fonte

Essa é a variante C acima, não é?

— Anony-Mousse

Oups, sim, é variante C.

— ThePawn

Eu verifiquei esta solução empiricamente e ela NÃO funciona ... A única que funciona é a solução (A) que eu também já implementei no passado, mas só funciona com pesos sendo números inteiros e> = 0

— trabalhoso

Esta equação está errada de acordo com a Wikipedia, Matlab, R e outras que estão implementando essa equação. O numerador aqui é quadrado, mas NÃO deve, deve ser igual ao (C) proposto pelo OP. Veja en.wikipedia.org/wiki/…

— gaborous

@rajatkhanduja Eu não estava falando sobre a prova, mas a equação derivada final (a primeira desta resposta). Mas, na verdade, está correto, o numerador é apenas ao quadrado porque multipy por V, portanto, o numerador acaba sendo sem quartzo. De qualquer forma, esse estimador permanece tendencioso, como explico na minha resposta abaixo, pois se baseia em pesos do tipo "confiabilidade".

— gaborous

Ambos A e C estão corretos, mas qual deles você usará depende de que tipo de pesos você usa:

A precisa que você use pesos do tipo "repetir" (números inteiros contando o número de ocorrências para cada observação) e é imparcial .
C precisa que você use pesos do tipo "confiabilidade" (pesos normalizados ou variações para cada observação) e é tendencioso . Não pode ser imparcial.

A razão pela qual C é necessariamente tendenciosa é porque, se você não usar pesos do tipo "repetir", perderá a capacidade de contar o número total de observações (tamanho da amostra) e, portanto, não poderá usar um fator de correção.

Para mais informações, consulte o artigo da Wikipedia que foi atualizado recentemente: http://en.wikipedia.org/wiki/Weighted_arithmetic_mean#Weighted_sample_variance

— laborioso
fonte