Estimador imparcial para o modelo AR (

Considere um modelo AR ( ) (assumindo média zero por simplicidade): $p$

x_{t} = φ_{1 1} x_{t - 1 1} + \dots + φ_{p} x_{t - p} + ε_{t}

$x_t = \varphi_1 x_{t-1} + \dotsc + \varphi_p x_{t-p} + \varepsilon_t$

O estimador OLS (equivalente ao estimador condicional de verossimilhança máxima) para é conhecido por ser tendencioso, conforme observado em um encadeamento recente . $\mathbf{\varphi} := (\varphi_1,\dotsc,\varphi_p)$

(Curiosamente, não consegui encontrar o viés mencionado na Hamilton "Análise de Séries Temporais" nem em alguns outros livros didáticos de séries temporais. No entanto, ele pode ser encontrado em várias notas de aula e artigos acadêmicos, por exemplo, isso .)

Não consegui descobrir se o estimador exato de probabilidade máxima de RA ( ) é tendencioso ou não; daí a minha primeira pergunta. $p$

Pergunta 1: É exato máxima estimador probabilidade de AR ( parâmetros auto-regressivos modelo) do tendenciosa? (Vamos supor que o processo AR ( ) seja estacionário. Caso contrário, o estimador não é nem consistente, pois é restrito na região estacionária; veja, por exemplo, Hamilton "Time Series Analysis" , p. 123.) $p$ $\varphi_1,\dotsc,\varphi_p$ $p$

Além disso,

Pergunta 2: Existem estimadores imparciais razoavelmente simples?

— Richard Hardy
fonte

Tenho certeza de que o estimador de ML em um AR (p) é enviesado (a existência do limite de estacionariedade sugere que será enviesado), mas não tenho uma prova para você agora (a maioria dos estimadores de ML é enviesada em qualquer caso, mas temos um pouco mais do que isso para continuar aqui). [Pessoalmente, não vejo a imparcialidade como uma propriedade particularmente útil, pelo menos em geral - é como a velha piada sobre estatísticos caçando patos. Ceteris paribus, tê-lo melhor do que não, é claro, mas na prática os ceteris nunca são paribus . É um conceito importante, no entanto. ]

— Glen_b -Reinstala Monica

Eu pensei que a imparcialidade seria desejável ao trabalhar em pequenas amostras, e acabei de enfrentar esse exemplo . No meu entender, nesse caso, a imparcialidade era mais desejável do que, digamos, a eficiência, desde que a eficiência pudesse ser quantificada.

— Richard Hardy

Onde o viés pode não ser pequeno (como em pequenas amostras), eu realmente tendem a procurar algo mais parecido com o erro quadrático médio mínimo. Qual é o sentido de cuidar de que sua estimativa possa estar errada em média, quando, na verdade, sua estimativa alternativa pode estar muito mais errada porque tem uma alta variação? por exemplo, se meu viés neste tamanho de amostra para este

for 0,1, isso pode ser preocupantemente grande, então você diria "vamos usar um estimador imparcial" ... mas se o erro padrão for grande o suficiente para que minha estimativa esteja tipicamente ainda mais longe do valor correto ... estou melhor? ...

ϕ

$\phi$

— ctd

ctd. ... Acho que não (pelo menos para os meus propósitos habituais, e quase nunca vi um bom argumento para imparcialidade em uma situação prática para a qual algo mais parecido com o MMSE não seria melhor). Preocupo-me com o quão errada é essa estimativa - até onde posso estar fora do verdadeiro valor - e não com a mudança da média se estou nessa situação um milhão de vezes mais. O principal valor prático no cálculo do viés tende a ser ver se você pode reduzi-lo facilmente sem afetar muito a variação.

— Glen_b -Reinstala Monica

Bom argumento, obrigado. Eu vou pensar mais sobre isso.

— Richard Hardy

Obviamente, essa não é uma resposta rigorosa à sua pergunta 1, mas desde que você fez a pergunta em geral, as evidências para um contraexemplo já indicam que a resposta é não.

Então, aqui está um pequeno estudo de simulação usando a estimativa exata de ML arima0para argumentar que há pelo menos um caso em que existe viés:

reps <- 10000
n <- 30
true.ar1.coef <- 0.9

ar1.coefs <- rep(NA, reps)
for (i in 1:reps){
  y <- arima.sim(list(ar=true.ar1.coef), n)
  ar1.coefs[i] <- arima0(y, order=c(1,0,0), include.mean = F)$coef
}
mean(ar1.coefs) - true.ar1.coef

— Christoph Hanck
fonte

+1 e obrigado!

— Richard Hardy

-1

Por acaso, estou lendo o mesmo livro que você está lendo e encontrei a resposta para ambas as suas perguntas.

O viés dos betas de auto-regressão é mencionado no livro na página 215.

O livro também menciona uma maneira de corrigir o viés na página 223. A maneira de proceder é através de uma abordagem iterativa em duas etapas.

Espero que isto ajude.

— habitante do norte
fonte

De acordo com as diretrizes do site , as respostas não devem consistir simplesmente em referências a materiais em outros lugares.

— Alexis #