O erro quadrático médio é usado para avaliar a superioridade relativa de um estimador em relação a outro?

13

Suponha que temos dois estimadores e para algum parâmetro . Para determinar qual estimador é "melhor", analisamos o MSE (erro médio quadrático)? Em outras palavras, analisamos onde é o viés do estimador e é a variação do estimador? Quem tem um MSE maior é um estimador pior? $\alpha_1$ $\alpha_2$ $x$

M S E = β^{2} + σ^{2}

$MSE = \beta^2+ \sigma^2$

β

$\beta$

σ^{2}

$\sigma^2$

estimation mse

— Damien
fonte

10

Se você tiver dois estimadores concorrentes e , ou não diz que é o melhor estimador depende inteiramente da sua definição de "melhor". Por exemplo, se você está comparando estimadores imparciais e pelo "melhor" quer dizer tem variação menor, então, sim, isto implicaria que é melhor. $\hat \theta_1$ $\hat \theta_2$

M S E ({\hat{θ}}_{1}) < M S E ({\hat{θ}}_{2})

${\rm MSE}(\hat \theta_1) < {\rm MSE}(\hat \theta_2)$

{\hat{θ}}_{1}

$\hat \theta_1$

{\hat{θ}}_{1}

$\hat \theta_1$

M S E

$\rm MSE$ é um critério popular devido à sua conexão com os Mínimos Quadrados e a probabilidade logarítmica gaussiana, mas, como muitos critérios estatísticos, deve-se advertir o uso de

cegamente como uma medida da qualidade do estimador sem prestar atenção à aplicação.

M S E

$\rm MSE$

Há certas situações em que a escolha de um estimador para minimizar pode não ser uma coisa particularmente sensata a ser feita. Dois cenários vêm à mente: ${\rm MSE}$

Se houver discrepâncias muito grandes em um conjunto de dados, elas podem afetar drasticamente o MSE e, portanto, o estimador que minimiza o MSE pode ser influenciado de maneira indevida por esses discrepantes. Em tais situações, o fato de um estimador minimizar o MSE não conta muito, pois, se você removeu os valores extremos, pode obter uma estimativa totalmente diferente. Nesse sentido, o MSE não é "robusto" para discrepantes. No contexto da regressão, esse fato motivou o Estimador M de Huber (que discuto nesta resposta), que minimiza uma função de critério diferente (que é uma mistura entre erro ao quadrado e erro absoluto) quando há erros de cauda longa .
Se você estiver estimando um parâmetro delimitado, comparar s pode não ser apropriado, pois penaliza a subestimação e a subestimação de maneira diferente nesse caso. Por exemplo, suponha que você esteja estimando uma variação, . Então, se você subestima conscientemente a quantidade, seu pode ser no máximo , enquanto a superestimação pode produzir um que excede em muito , talvez até em uma quantidade ilimitada. $\rm MSE$ $\sigma^2$ $\rm MSE$ $\sigma^4$ $\rm MSE$ $\sigma^4$

Para tornar essas desvantagens mais claras, darei um exemplo concreto de quando, devido a esses problemas, o pode não ser uma medida apropriada da qualidade do estimador. $\rm MSE$

Suponha que você tenha uma amostra de uma distribuição com graus de liberdade e estamos tentando estimar a variância, que é . Considere dois estimadores $X_1, ..., X_n$ $t$ $\nu>2$ $\nu/(\nu-2)$ e Claramente

{\hat{θ}}_{1} : t h e você n b Eu uma s e d s uma m p eu e v uma r Eu uma n c e

$\hat \theta_{1}: {\rm the \ unbiased \ sample \ variance}$

{\hat{θ}}_{2} = 0 0, r e g uma r d eu e s s o f t h e d uma t uma

$\hat \theta_{2} = 0,{\rm \ regardless \ of \ the \ data}$

e é um facto que

M S E ({\hat{θ}}_{2}) = \frac{ν^{2}}{(ν - 2)^{2}}

$\rm MSE(\hat \theta_{2}) = \frac{\nu^2}{(\nu-2)^2}$

que pode ser derivado usandoo fato discutido neste encadeamentoeas propriedades da distribuição

. Assim, o estimador ingênuo supera em termos deindependentemente do tamanho da amostra sempre que, o que é bastante desconcertante. Ele também supera quando

M S E ({\hat{θ}}_{1}) = {\begin{cases} \infty & if ν \leq 4 \\ \frac{ν^{2}}{(ν - 2)^{2}} (\frac{2}{n - 1} + \frac{6}{n (ν - 4)}) & if ν > 4 . \end{cases}

${\rm MSE}(\hat \theta_{1}) = \begin{cases} \infty &\mbox{if } \nu \leq 4 \\ \frac{\nu^2}{(\nu-2)^2} \left( \frac{2}{n-1}+\frac{6}{n(\nu-4)} \right) & \mbox{if } \nu>4 . \end{cases}$

t

$t$ $\rm MSE$ $\nu < 4$

mas isso é relevante apenas para tamanhos de amostra muito pequenos. O acima acontece por causa da natureza de cauda longa da

distribuição com pequenos graus de liberdade, o que torna

propenso para valores muito grandes e o

penaliza fortemente para a sobreavaliação, enquanto

não tem este problema.

(\frac{2}{n - 1} + \frac{6}{n (ν - 4)}) > 1

$\left( \frac{2}{n-1}+\frac{6}{n(\nu-4)} \right) > 1$

t

$t$

{\hat{θ}}_{2}

$\hat \theta_{2}$

M S E

$\rm MSE$

{\hat{θ}}_{1}

$\hat \theta_1$

$\rm MSE$ $\rm MSE$ $\hat \theta$

S (\hat{θ}) = \frac{\hat{θ}}{ν / (ν - 2)} - 1 - \log (\frac{\hat{θ}}{ν / (ν - 2)})

$S(\hat \theta) = \frac{ \hat \theta}{\nu/(\nu-2)} - 1 - \log \left( \frac{ \hat \theta}{\nu/(\nu-2)} \right)$

$S(\hat \theta_1)=\infty$

— Macro
fonte

(+1) Boa discussão. Para ser justo, provavelmente deve ser apontado que argumentos semelhantes podem ser feitos a favor e contra outros critérios (outras funções de perda) também.

— MånsT

2

Normalmente, avalia-se os estimadores observando suas funções de risco, que plotam a perda esperada versus os parâmetros. Aqui, ao fixar os parâmetros, você pode ter produzido uma análise enganosa. Afinal, é sempre o caso de um estimador estúpido (constante, ignorante em termos de dados) produzir uma perda esperada muito baixa: basta configurá-lo como o parâmetro correto! Isso me deixa imaginando o que a simulação realmente mostrou aqui.

— whuber

@ Whuber, eu modifiquei esta resposta para dar o exemplo analiticamente, o que talvez fique mais claro. Também ofereci uma função de perda alternativa que pode ser mais apropriada.

— Macro

ν

$\nu$

2

MSE corresponde ao risco (perda esperada) da função de perda de erro ao quadrado $L(\alpha_i) = (\alpha_i - \alpha)^2$ . A função de perda de erro ao quadrado é muito popular, mas apenas uma opção dentre muitas. O procedimento que você descreve está correto sob perda de erro ao quadrado; a questão é se isso é apropriado para o seu problema ou não.

— JMS
fonte

2

Porque a função $f(x) = x^2$ é diferenciável, facilita encontrar o MSE mínimo tanto do ponto de vista teórico quanto numérico. Por exemplo, nos mínimos quadrados comuns, você pode resolver a explicitação da inclinação ajustada e interceptar. Do ponto de vista numérico, você tem solucionadores mais eficientes quando também possui uma derivada.

O erro quadrático médio geralmente supera os valores extremos na minha opinião. É por isso que geralmente é mais robusto usar o erro absoluto médio, ou seja, usar $f(x) = |x|$ como sua função de erro. No entanto, como não é diferenciável, torna as soluções mais difíceis de trabalhar.

MSE é provavelmente uma boa escolha se os termos de erro forem normalmente distribuídos. Se eles têm caudas mais gordas, é preferível uma escolha mais robusta, como valor absoluto.

— aprokopiw
fonte

0

Em Case & Berger Statistical Inference 2ª página, página 332, a MSE penaliza igualmente por superestimação e subestimação, o que é bom no caso de localização. No caso da escala, no entanto, 0 é um limite inferior natural, portanto, o problema de estimativa não é simétrico. O uso de MSE nesse caso tende a perdoar a subestimação.

Convém verificar qual estimador atende às propriedades UMVUE, o que significa usar o limite inferior Cramer-Rao. P. 341

— Tu.2
fonte