Um exemplo de um estimador consistente e tendencioso?

13

Realmente perplexo neste. Eu realmente gostaria de um exemplo ou situação em que um estimador B fosse consistente e tendencioso.

mathematical-statistics estimation econometrics

— Jimmy Wiggles
fonte

3

Isto é para uma aula?

— Glen_b -Reinstate Monica

5

Acho que a especificação tardia que você está procurando para um exemplo de série temporal transforma isso em uma pergunta diferente, pois invalidaria as excelentes respostas já fornecidas. Mas tudo bem - Você pode fazer uma nova pergunta.

— Sycorax diz Restabelecer Monica

6

Vejo que você mudou sua pergunta. Dado que várias respostas já trataram de sua pergunta anterior, aconselho que você a altere novamente e publique uma nova pergunta especificamente para modelos de séries temporais.

— JohnK

3

É surpreendente que, mesmo que você solicite um estimador relacionado a séries temporais, ninguém tenha mencionado o OLS para um AR (1). O estimador é tendencioso, mas consistente, e é bastante fácil de mostrar (e pesquisar no Google fornecerá bastante material sobre isso). Edit: ele aparece como o pedido de séries temporais foi uma adição tardia, o que explicaria a falta de tais respostas ...

— hejseb

2

Aqui está um exemplo bastante trivial:

{\bar{X}}_{n} + ϵ / n

$\bar{X}_n + \epsilon / n$ ,

ϵ \neq 0

$\epsilon \neq 0$ .

— dsaxton

23

O exemplo mais simples que consigo pensar é a variação da amostra que chega intuitivamente para a maioria de nós, a soma dos desvios quadrados divididos por $n$ vez de $n-1$ :

S_{n}^{2} = \frac{1}{n} \sum_{Eu = 1}^{n} {(X_{Eu} - \bar{X})}^{2}

$S_n^2 = \frac{1}{n} \sum_{i=1}^n \left(X_i-\bar{X} \right)^2$

É fácil mostrar que $E\left(S_n^2 \right)=\frac{n-1}{n} \sigma^2$ e, portanto, o estimador é enviesado. Mas assumindo a variância finita $\sigma^2$ , observe que o viés vai a zero como $n \to \infty$ porque

E (S_{n}^{2}) - σ^{2} = - \frac{1}{n} σ^{2}

$E\left(S_n^2 \right)-\sigma^2 = -\frac{1}{n}\sigma^2$

Também pode ser mostrado que a variância do estimador tende a zero e, portanto, o estimador converge em quadrado médio . Portanto, é também convergente em probabilidade .

— JohnK
fonte

1

Este é um exemplo útil, embora possa aplicar uma interpretação bastante fraca de "tendencioso" aqui (que é usado de maneira um tanto ambígua na própria pergunta). Também se poderia pedir algo mais forte, por exemplo, uma sequência de estimador consistente, mas com viés que não desaparece nem assintoticamente.

— cardeal

@ cardinal O viés deve desaparecer assintoticamente para que o estimador seja consistente, não?

— JohnK

3

Não. (Veja o fluxo de comentários para mais detalhes.)

— cardeal

Eu acho que seria útil chamada seu estimador de

em vez de

, como

refere-se mais tipicamente ao estimador imparcial, enquanto

refere-se frequentemente à MLE.

{\hat{σ}}^{2}

$\hat \sigma^2$

S^{2}

$S^2$

S^{2}

$S^2$

{\hat{σ}}^{2}

$\hat \sigma^2$

— Cliff AB

@CliffAB Sim, é isso que o índice

indica, a soma dos desvios ao quadrado é dividida por

, em vez do

convencional .

n

$n$

n

$n$

n - 1

$n-1$

— JohnK

9

Um exemplo simples seria a estimativa do parâmetro dado observações iid $\theta > 0$ $n$ . $y_i \sim \text{Uniform}\left[0, \,\theta\right]$

Vamos . Para qualquer finito , temos (portanto, o estimador é enviesado), mas no limite será igual a com probabilidade um (por isso é consistente). $\hat{\theta}_n = \max\left\{y_1, \ldots, y_n\right\}$ $n$ $\mathbb{E}\left[\theta_n\right] < \theta$ $\theta$

— Adrian
fonte

6

Considere qualquer estimador imparcial e consistente e uma sequência convergindo para 1 ( não precisa ser aleatório) e forme . É tendencioso, mas consistente, já que converge para 1. $T_n$ $\alpha_n$ $\alpha_n$ $\alpha_nT_n$ $\alpha_n$

Da wikipedia:

Genericamente falando, um estimador do parâmetro é dito ser consistente, se converge em probabilidade para o verdadeiro valor do parâmetro: $T_n$ $\theta$

\underset{n \to \infty}{plim} T_{n} = θ .

$\underset{n\to\infty}{\operatorname{plim}}\;T_n = \theta.$

Agora, lembre-se de que o viés de um estimador é definido como:

{Viés}_{θ} [\hat{θ}] = E_{θ} [\hat{θ}] - θ

$\operatorname{Bias}_\theta[\,\hat\theta\,] = \operatorname{E}_\theta[\,\hat{\theta}\,]-\theta$

O viés é de fato diferente de zero, e a convergência em probabilidade permanece verdadeira.

— RUser4512
fonte

Agradeço a resposta e a explicação. Eu tenho uma melhor compreensão agora. Obrigado

— Jimmy Wiggles

Esta resposta precisa de uma menor correção-up no início, para deixar claro que não qualquer imparcial

vai fazer. A própria sequência original do estimador deve ser consistente.

T_{n}

$T_n$

— cardeal

2

Em uma configuração de série temporal com uma variável dependente defasada incluída como regressor, o estimador OLS será consistente, mas tendencioso. A razão para isso é que, para mostrar imparcialidade do estimador OLS, precisamos de estrita exogeneidade, , isto é, que o termo de erro, , no períodonão está correlacionado com todos os regressores em todos os períodos de tempo. No entanto, para mostrar consistência do estimador OLS, precisamos apenas de exogeneidade contemporânea, , isto é, que o termo de erro, , no períodonão está correlacionado com os regressores, no período. Considere o modelo AR (1): $E\left[\varepsilon_{t}\left|x_{1},\, x_{2,},\,\ldots,\, x_{T}\right.\right]$ $\varepsilon_{t}$ $t$ $E\left[\varepsilon_{t}\left|x_{t}\right.\right]$ $\varepsilon_{t}$ $t$ $x_{t}$ $t$ com partir de agora. $y_{t}=\rho y_{t-1}+\varepsilon_{t},\;\varepsilon_{t}\sim N\left(0,\:\sigma_{\varepsilon}^{2}\right)$ $x_{t}=y_{t-1}$

Primeiro, mostro que uma estrogenicidade estrita não se aplica a um modelo com uma variável dependente defasada incluída como regressor. Vamos olhar a correlação entre e $\varepsilon_{t}$ $x_{t+1}=y_{t}$

E [ε_{t} x_{t + 1}] = E [ε_{t} y_{t}] = E [ε_{t} (ρ y_{t - 1} + ε_{t})]

$E\left[\varepsilon_{t}x_{t+1}\right]=E\left[\varepsilon_{t}y_{t}\right]=E\left[\varepsilon_{t}\left(\rho y_{t-1}+\varepsilon_{t}\right)\right]$

= ρ E (ε_{t} y_{t - 1}) + E (ε_{t}^{2})

$=\rho E\left(\varepsilon_{t}y_{t-1}\right)+E\left(\varepsilon_{t}^{2}\right)$

= E (ε_{t}^{2}) = σ_{ε}^{2} > 0 0 (E q . (1)) .

$=E\left(\varepsilon_{t}^{2}\right)=\sigma_{\varepsilon}^{2}>0 \ (Eq. (1)).$

Se assumirmos a exogeneidade seqüencial, , ou seja, que o termo de erro, , no período não está correlacionada com todos os regressores em períodos de tempo anteriores e a corrente, em seguida, o primeiro termo acima, , desaparecerá. O que está claro a partir de cima é que, a menos que tenhamos exogeneidade estrita, a expectativa $E\left[\varepsilon_{t}\mid y_{1},\: y_{2},\:\ldots\ldots,y_{t-1}\right]=0$ $\varepsilon_{t}$ $t$ $\rho E\left(\varepsilon_{t}y_{t-1}\right)$ . No entanto, deve ficar claro que a exogeneidade contemporânea, , aguenta. $E\left[\varepsilon_{t}x_{t+1}\right]=E\left[\varepsilon_{t}y_{t}\right]\neq0$ $E\left[\varepsilon_{t}\left|x_{t}\right.\right]$

Agora, vejamos o viés do estimador OLS ao estimar o modelo AR (1) especificado acima. O estimador de OLS , é dada como: $\rho$ $\hat{\rho}$

\hat{ρ} = \frac{\frac{1}{T} \sum_{t = 1}^{T} y_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = \frac{\frac{1}{T} \sum_{t = 1}^{T} (ρ y_{t - 1} + ε_{t}) y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = ρ + \frac{\frac{1}{T} \sum_{t = 1}^{T} ε_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} (E q . (2))

$\hat{\rho}=\frac{\frac{1}{T}\sum_{t=1}^{T}y_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\frac{\frac{1}{T}\sum_{t=1}^{T}\left(\rho y_{t-1}+\varepsilon_{t}\right)y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}} \ (Eq. (2))$

$E\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]$ $Eq. (2)$

E [\hat{ρ} | y_{1}, y_{2,}, ..., y_{T - 1}] = ρ + \frac{\frac{1}{T} \sum_{t = 1}^{T} [ε_{t} | y_{1}, y_{2,}, ..., y_{T - 1}] y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}}

$E\left[\hat{\rho}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}$

$Eq. (1)$ $E\left[\varepsilon_{t}y_{t}\right]=E\left(\varepsilon_{t}^{2}\right)$ $\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]\neq0$ $\frac{\frac{1}{T}\sum_{t=1}^{T}\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}\neq0$ $E\left[\hat{\rho}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]\neq\rho$ $E\left[\hat{\rho}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}E\left(\varepsilon_{t}^{2}\right)y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=$ $\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\sigma_{\varepsilon}^{2}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}$

$E\left[\varepsilon_{t}\left|x_{t}\right.\right]=E\left[\varepsilon_{t}\left|y_{t-1}\right.\right]=0$ $E\left[\varepsilon_{t}x_{t}\right]=0$ $x_{t}=y_{t-1}$ $\rho$ $\hat{\rho}$

\hat{ρ} = \frac{\frac{1}{T} \sum_{t = 1}^{T} y_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = \frac{\frac{1}{T} \sum_{t = 1}^{T} (ρ y_{t - 1} + ε_{t}) y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = ρ + \frac{\frac{1}{T} \sum_{t = 1}^{T} ε_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}}

$\hat{\rho}=\frac{\frac{1}{T}\sum_{t=1}^{T}y_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\frac{\frac{1}{T}\sum_{t=1}^{T}\left(\rho y_{t-1}+\varepsilon_{t}\right)y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}$

$plim\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}=\sigma_{y}^{2}$ $\sigma_{y}^{2}$ $0<\sigma_{y}^{2}<\infty$

$T\rightarrow\infty$ $p\lim\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}=E\left[\varepsilon_{t}y_{t-1}\right]=0$

\underset{T \to \infty}{p lim \hat{ρ}} = ρ + \frac{p lim \frac{1}{T} \sum_{t = 1}^{T} ε_{t} y_{t - 1}}{p lim \frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = ρ + \frac{0 0}{σ_{y}^{2}} = ρ

$\underset{T\rightarrow\infty}{p\lim\hat{\rho}}=\rho+\frac{p\lim\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}}{p\lim\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{0}{\sigma_{y}^{2}}=\rho$

$p$ $\hat{\rho}$

— Plissken
fonte