Por que o estimador OLS do coeficiente AR (1) é enviesado?

Estou tentando entender por que o OLS fornece um estimador tendencioso de um processo AR (1). Considere Nesse modelo, a exogeneidade estrita é violada, ou seja, e estão correlacionados, mas e não são correlacionados. Mas se isso for verdade, por que a derivação simples a seguir não se aplica?

\begin{aligned} y_{t} & = α + β y_{t - 1} + ϵ_{t}, \\ ϵ_{t} & \overset{i i d}{\sim} N (0, 1) . \end{aligned}

$\begin{aligned} y_{t} &= \alpha + \beta y_{t-1} + \epsilon_{t}, \\ \epsilon_{t} &\stackrel{iid}{\sim} N(0,1). \end{aligned}$

y_{t}

$y_t$

ϵ_{t}

$\epsilon_t$

y_{t - 1}

$y_{t-1}$

ϵ_{t}

$\epsilon_t$

\begin{aligned} plim \hat{β} & = \frac{Cov (y_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = \frac{Cov (α + β y_{t - 1} + ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β + \frac{Cov (ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β . \end{aligned}

$\begin{aligned} \text{plim} \ \hat{\beta} &= \frac{\text{Cov}(y_{t},y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\frac{\text{Cov}(\alpha + \beta y_{t-1}+\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &= \beta+ \frac{\text{Cov}(\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\beta. \end{aligned}$

— Florestan
fonte

Houve algumas perguntas relacionadas no Cross Validated. Você pode se beneficiar de procurá-los.

— Richard Hardy

Eu os vi, mas eles realmente não me ajudaram. Encontrei uma prova e simulações que mostram esse resultado. O que me interessa é o que há de errado com meu raciocínio acima.

— Florestan

Quando você está usando , não está abordando a consistência e não a (des) parcialidade? Para (des) parcialidade, você deve usar as expectativas.

plim

$\text{plim}$

— Richard Hardy

Você está completamente certo, isso poderia resolver o enigma. Portanto, se a equação acima não se mantiver sem plim, não contradiz a parcialidade do OLS em amostras pequenas e mostrará a consistência do OLS ao mesmo tempo. Embora eu esteja um pouco inseguro: essa fórmula de covariância sobre variância realmente é válida apenas para a plim e não para a expectativa? Muito obrigado já!

— Florestan

O próprio estimador OLS não envolve nenhum s; você deve apenas olhar as expectativas em amostras finitas.

plim

$\text{plim}$

— Richard Hardy

Respostas:

Como discutido essencialmente nos comentários, a imparcialidade é uma propriedade de amostra finita e, se mantida, seria expressa como

E (\hat{β}) = β

$E (\hat \beta ) = \beta$

(onde o valor esperado é o primeiro momento da distribuição de amostra finita)

enquanto consistência é uma propriedade assintótica expressa como

plim \hat{β} = β

$\text{plim} \hat \beta = \beta$

O OP mostra que, embora o OLS nesse contexto seja tendencioso, ele ainda é consistente.

E (\hat{β}) \neq β but plim \hat{β} = β

$E (\hat \beta ) \neq \beta\;\;\; \text{but}\;\;\; \text{plim} \hat \beta = \beta$

Aqui não há contradição.

— Alecos Papadopoulos
fonte

@Alecos explica bem por que uma plim correta e imparcial não são as mesmas. Quanto à razão subjacente pela qual o estimador não é imparcial, lembre-se de que a imparcialidade de um estimador exige que todos os termos de erro sejam médios independentemente de todos os valores do regressor, . $E(\epsilon|X)=0$

No presente caso, a matriz regressora consiste nos valores , de modo que - veja o comentário de mpiktas - a condição se traduz em para todos . $y_1,\ldots,y_{T-1}$ $E(\epsilon_s|y_1,\ldots,y_{T-1})=0$ $s=2,\ldots,T$

Aqui temos

y_{t} = β y_{t - 1} + ϵ_{t},

$\begin{equation*} y_{t}=\beta y_{t-1}+\epsilon _{t}, \end{equation*}$ Mesmo sob a suposição , temos que Mas também é um regressor para valores futuros em um modelo AR, como .

E (ϵ_{t} y_{t - 1}) = 0

$E(\epsilon_{t}y_{t-1})=0$

E (ϵ_{t} y_{t}) = E (ϵ_{t} (β y_{t - 1} + ϵ_{t})) = E (ϵ_{t}^{2}) \neq 0.

$\begin{equation*} E(\epsilon_ty_{t})=E(\epsilon_t(\beta y_{t-1}+\epsilon _{t}))=E(\epsilon _{t}^{2})\neq 0. \end{equation*}$

y_{t}

$y_t$

y_{t + 1} = β y_{t} + ϵ_{t + 1}

$y_{t+1}=\beta y_{t}+\epsilon_{t+1}$

— Christoph Hanck
fonte

Eu acrescentaria o esclarecimento de que nesse caso se traduz em para cada . Em seguida, a discussão adicional se torna um pouco mais clara.

E (ε | X)

$E(\varepsilon | X)$

E (ε_{s} | y_{1}, . . ., y_{T})

$E(\varepsilon_s|y_{1},...,y_T)$

s

$s$

— Mvctas # 19/16

bom ponto, eu fiz uma edição #

— Christoph Hanck 19/10/16

Expandindo em duas boas respostas. Anote o estimador OLS:

\hat{β} = β + \frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}

$\hat\beta =\beta + \frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}$

Para imparcialidade precisamos

E [\frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}] = 0.

$E\left[\frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}\right]=0.$

Mas para isso precisamos que para cada . Para o modelo AR (1), isso claramente falha, pois está relacionado aos valores futuros . $E(\varepsilon_t|y_{1},...,y_{T-1})=0,$ $t$ $\varepsilon_t$ $y_{t},y_{t+1},...,y_{T}$

— mpiktas
fonte

Apenas para verificar se eu entendi direito: o problema não é o numerador, pois cada t e não estão correlacionados. O problema é o denominador que apresenta t mais altos, de tal forma que existe correlação entre numerador e denominador, para que eu não possa assumir a expectativa dentro da soma do numerador (sob estrita exogeneidade eu poderia fazê-lo ?!). Essa é a intuição matemática correta?

y_{t - 1}

$y_{t-1}$

ϵ_{t}

$\epsilon_{t}$

— Florestan

Sim, essa é a intuição correta. Observe que a exogeneidade estrita não é possível neste caso, mas, para imparcialidade, a exogeneidade estrita se torna um requisito.

— Mvctas # 21/16