É possível ter um estimador imparcial e limitado?

Eu tenho um parâmetro que fica entre . Digamos que eu possa executar um experimento e obter , em que é um gaussiano padrão. O que eu preciso é de uma estimativa de que seja 1) imparcial 2) quase certamente limitada. O requisito (2) é crucial para mim. $\theta$ $[0,1]$ $\hat{\theta} = \theta + w$ $w$ $\theta$

O pensamento natural a fazer é construir uma nova configuração do estimador para se estiver acima de e para se estiver abaixo de . Mas o estimador não será imparcial. Então, o que eu deveria fazer? $\hat{\theta}$ $1$ $1$ $0$ $0$

Formalmente, a questão é se existe uma função tal que satisfaça (1) e (2) acima. Além disso, a situação seria diferente se eu desenhasse mais de uma amostra? $f: \mathbb{R} \rightarrow \mathbb{R}$ $f(\hat \theta)$

— yves
fonte

Você pode dizer mais sobre sua situação? Eu não sou um estatístico matemático, mas isso me parece muito abstrato. Isso me lembra a regressão logística, onde o parâmetro deve estar em e , mas a distribuição amostral de não é gaussiana. (É claro que é, mas isso não é limitado por .) Alguma coisa está relacionada à sua situação? FWIW, eu suspeito que você não conseguirá encontrar uma função como você deseja (ou seja, isso é limitado), b / c não é limitado. (W / desculpas, eu posso excluir este comentário, se necessário.)

π

$\pi$

(0, 1)

$(0,1)$

E [\hat{π}] = π

$E[\hat\pi]=\pi$

\hat{π}

$\hat\pi$

logit (\hat{π})

$\text{logit}(\hat\pi)$

(0, 1)

$(0,1)$

R

$\mathbb R$

— gung - Reintegrar Monica

Concordo que é muito provável que essa função exista, mesmo se expandirmos a condição para coletar várias amostras. Se for esse o caso, porém, eu ainda estaria interessado em ver uma prova de que essa função não existe.

f

$f$

— Yves

A expressão é uma expressão teórica à qual geralmente se chega ao tentar determinar as propriedades do estimador, imparcialidade nesse caso. Mas essa não é a forma funcional real do estimador, pois contém o parâmetro desconhecido . Para explorar significativamente sua pergunta, precisamos da expressão como uma função dos dados. Isso não pode ser respondido em geral.

\hat{θ} = θ + w

$\hat{\theta} = \theta + w$

θ

$\theta$

\hat{θ}

$\hat \theta$

— Alecos Papadopoulos

Eu tenho a mesma pergunta! Mais precisamente, a questão é se existe e uma função mensurável tal queAcredito que a resposta seja não, mas estou procurando uma prova de que não existe tal .

- \infty < a < b < \infty

$-\infty< a < b < \infty$

f : R \to [a, b]

$f : \mathbb{R} \to [a,b]$

\forall μ \in [0, 1] \underset{X \leftarrow N (μ, 1)}{E} [f (X)] = μ .

$\forall \mu \in [0,1] ~~~~~ \underset{X \leftarrow \mathcal{N}(\mu,1)}{\mathbb{E}}[ f(X) ] = \mu.$

f

$f$

— Thomas Thomas

Apresentarei condições sob as quais um estimador imparcial permanece imparcial, mesmo depois de limitado. Mas não tenho certeza de que eles representem algo interessante ou útil.

Deixe um estimador do parâmetro desconhecido de uma distribuição contínua e . $\hat \theta$ $\theta$ $E(\hat \theta) =\theta$

Suponha que, por algumas razões, sob amostragem repetida, desejamos que o estimador produza estimativas que variam em . Assumimos que e, portanto, podemos escrever quando conveniente o intervalo como com números positivos, mas é claro, desconhecido. $[\delta_l,\delta_u]$ $\theta \in [\delta_l,\delta_u]$ $[\theta-a,\theta+b]$ $\{a,b\}$

Então o estimador restrito é

{\hat{θ}}_{c} = {\begin{matrix} δ_{l} & \hat{θ} < δ_{l} \\ \hat{θ} & δ_{l} \leq \hat{θ} \leq δ_{u} \\ δ_{u} & δ_{u} < \hat{θ} \end{matrix}}

$\hat \theta_c = \left\{\begin{matrix} \delta_l & \hat \theta <\delta_l\\\hat \theta &\delta_l \leq \hat \theta \leq \delta_u \\\delta_u & \delta_u < \hat \theta \end{matrix} \right\}$

e seu valor esperado é

\begin{aligned} E ({\hat{θ}}_{c}) & = δ_{l} \cdot P [\hat{θ} \leq δ_{l}] \\ + E (\hat{θ} ∣ δ_{l} \leq \hat{θ} \leq δ_{u}) \cdot P [δ_{l} \leq \hat{θ} \leq δ_{u}] \\ + δ_{u} \cdot P [\hat{θ} > δ_{u}] \end{aligned}

$\begin{align} E(\hat \theta_c) &= \delta_l\cdot P[\hat \theta \leq \delta_l] \\&+ E(\hat \theta \mid \delta_l \leq\hat \theta \leq\delta_u )\cdot P[\delta_l \leq\hat \theta \leq \delta_u] \\ &+\delta_u\cdot P[\hat \theta > \delta_u]\end{align}$

Defina agora as funções do indicador

I_{l} = I (\hat{θ} \leq δ_{l}), I_{m} = I (δ_{l} \leq \hat{θ} \leq δ_{l}), I_{u} = I (\hat{θ} > δ_{u})

$I_l = I(\hat \theta \leq \delta_l),\;\; I_m = I(\delta_l\leq \hat \theta \leq \delta_l),\;\; I_u = I(\hat \theta > \delta_u)$

e note que

\begin{matrix} (1) & I_{l} + I_{u} = 1 - I_{m} \end{matrix}

$I_l + I_u = 1- I_m \tag{1}$

usando essas funções indicadoras e integrais, podemos escrever o valor esperado do estimador restrito como ( é a função de densidade de ), $f(\hat \theta)$ $\hat \theta$

E ({\hat{θ}}_{c}) = \int_{- \infty}^{\infty} δ_{l} f (\hat{θ}) I_{l} d \hat{θ} + \int_{- \infty}^{\infty} \hat{θ} f (\hat{θ}) I_{m} d \hat{θ} + \int_{- \infty}^{\infty} δ_{u} f (\hat{θ}) I_{u} d \hat{θ}

$E(\hat \theta_c) = \int_{-\infty}^{\infty}\delta_lf(\hat \theta)I_ld\hat \theta + \int_{-\infty}^{\infty}\hat \theta f(\hat \theta)I_md\hat \theta + \int_{-\infty}^{\infty} \delta_uf(\hat \theta)I_ud\hat \theta$

= \int_{- \infty}^{\infty} f (\hat{θ}) [δ_{l} I_{l} + \hat{θ} I_{m} + δ_{u} I_{u}] d \hat{θ}

$=\int_{-\infty}^{\infty}f(\hat \theta)\Big[\delta_lI_l + \hat \theta I_m + \delta_uI_u\Big]d\hat \theta$

\begin{matrix} (2) & = E [δ_{l} I_{l} + \hat{θ} I_{m} + δ_{u} I_{u}] \end{matrix}

$=E\Big[\delta_lI_l + \hat \theta I_m + \delta_uI_u\Big] \tag{2}$

Decompondo os limites superior e inferior, temos

E ({\hat{θ}}_{c}) = E [(θ - a) I_{l} + \hat{θ} I_{m} + (θ + b) I_{u}]

$E(\hat \theta_c) = E\Big[(\theta-a)I_l + \hat \theta I_m + (\theta+b)I_u\Big]$

= E [θ \cdot (I_{l} + I_{u}) + \hat{θ} I_{m}] - a E (I_{l}) + b E (I_{u})

$=E\Big[\theta\cdot(I_l+I_u) + \hat \theta I_m\Big] -aE(I_l)+bE(I_u)$

e usando , $(1)$

= E [θ \cdot (1 - I_{m}) + \hat{θ} I_{m}] - a E (I_{l}) + b E (I_{u})

$= E\Big[\theta\cdot(1-I_m) + \hat \theta I_m\Big] -aE(I_l)+bE(I_u)$

\begin{matrix} (3) & \Rightarrow E ({\hat{θ}}_{c}) = θ + E [(\hat{θ} - θ) I_{m}] - a E (I_{l}) + b E (I_{u}) \end{matrix}

$\Rightarrow E(\hat \theta_c) = \theta +E\big[(\hat \theta -\theta)I_m\big]-aE(I_l)+bE(I_u) \tag {3}$

Agora, já que , temos $E(\hat \theta) = \theta$

E [(\hat{θ} - θ) I_{m}] = E (\hat{θ} I_{m}) - E (\hat{θ}) E (I_{m})

$E\big[(\hat \theta -\theta)I_m\big] = E\big(\hat \theta I_m\big) - E(\hat \theta)E(I_m)$

Mas

E (\hat{θ} I_{m}) = E (\hat{θ} I_{m} ∣ I_{m} = 1) E (I_{m}) = E (\hat{θ}) E (I_{m})

$E\big(\hat \theta I_m\big) = E\big(\hat \theta I_m\mid I_m=1\big)E(I_m) = E\big(\hat \theta \big)E(I_m)$

Portanto, e assim $E\big[(\hat \theta -\theta)I_m\big] =0$

\begin{matrix} (4) & \begin{aligned} E ({\hat{θ}}_{c}) & = θ - a E (I_{l}) + b E (I_{u}) \\ = θ - a P (\hat{θ} \leq δ_{l}) + b P (\hat{θ} > δ_{u}) \end{aligned} \end{matrix}

$\begin{align} E(\hat \theta_c) &= \theta -aE(I_l)+bE(I_u) \\ &= \theta -aP(\hat \theta \leq \delta_l)+bP(\hat \theta > \delta_u)\end{align}\tag {4}$

ou alternativamente

\begin{matrix} (4a) & E ({\hat{θ}}_{c}) = θ - (θ - δ_{l}) P (\hat{θ} \leq δ_{l}) + (δ_{u} - θ) P (\hat{θ} > δ_{u}) \end{matrix}

$E(\hat \theta_c) = \theta -(\theta-\delta_l)P(\hat \theta \leq \delta_l)+(\delta_u-\theta)P(\hat \theta > \delta_u)\tag {4a}$

Portanto, de , vemos que, para o estimador restrito também ser imparcial, devemos ter $(4)$

\begin{matrix} (5) & a P (\hat{θ} \leq δ_{l}) = b P (\hat{θ} > δ_{u}) \end{matrix}

$aP(\hat \theta \leq \delta_l) = bP(\hat \theta > \delta_u) \tag {5}$

Qual é o problema com a condição ? Envolve os números desconhecidos , portanto, na prática, não seremos capazes de realmente determinar um intervalo para limitar o estimador e mantê-lo imparcial. $(5)$ $\{a,b\}$

Mas digamos que este seja um experimento de simulação controlada, onde queremos investigar outras propriedades dos estimadores, dada a imparcialidade. Então nós podemos "neutralizar" e , definindo , que essencialmente cria um intervalo simétrico em torno do valor de ... Neste caso, para alcançar viés, devemos mais sobre ter , ou seja, devemos ter que a massa de probabilidade do estimador irrestrito seja igual à esquerda e à direita do intervalo (simétrico em torno de ) ... $a$ $b$ $a=b$ $\theta$ $P(\hat \theta \leq \delta_l) = P(\hat \theta > \delta_u)$ $\theta$

... e aprendemos que (como condições suficientes), se a distribuição do estimador irrestrito for simétrica em torno do valor verdadeiro, então o estimador restringido em um intervalo simétrico em torno do valor verdadeiro também será imparcial ... mas isso é quase trivialmente evidente ou intuitivo, não é?

Torna-se um pouco mais interessante, se percebermos que a condição necessária e suficiente (dado um intervalo simétrico) a) não exige uma distribuição simétrica , apenas massa igual de probabilidade "na cauda" (e isso, por sua vez, não implica que a a distribuição da massa em cada cauda deve ser idêntica) eb) permite que, dentro do intervalo, a densidade do estimador possa ter qualquer forma não simétrica que seja consistente com a manutenção da imparcialidade - ainda assim tornará o estimador restrito imparcial.

APLICAÇÃO: O caso do OP
Nosso estimador é e so . Então, usando enquanto escreve em termos de , temos, para o intervalo delimitador , $\hat \theta = \theta + w,\;\; w \sim N(0,1)$ $\hat \theta \sim N(\theta,1)$ $(4)$ $a,b$ $\theta, \delta$ $[0,1]$

E [{\hat{θ}}_{c}] = θ - θ P (\hat{θ} \leq 0) + (1 - θ) P (\hat{θ} > 1)

$E[\hat \theta_c] = \theta -\theta P(\hat \theta \leq 0) +(1-\theta)P(\hat \theta > 1)$

A distribuição é simétrica em torno de . Transformação ( é o CDF normal padrão) $\theta$ $\Phi()$

E [{\hat{θ}}_{c}] = θ - θ P (\hat{θ} - θ \leq - θ) + (1 - θ) P (\hat{θ} - θ > 1 - θ)

$E[\hat \theta_c] = \theta -\theta P(\hat \theta-\theta \leq -\theta) +(1-\theta)P(\hat \theta -\theta > 1-\theta)$

= θ - θ Φ (- θ) + (1 - θ) [1 - Φ (1 - θ)]

$=\theta -\theta \Phi(-\theta) +(1-\theta)[1-\Phi(1-\theta)]$

Pode-se verificar que os termos adicionais cancelam somente se , ou seja, somente se o intervalo delimitador também for simétrico em torno de . $\theta =1/2$ $\theta$

— Alecos Papadopoulos
fonte

Eu não acho que isso responda à pergunta. Você está analisando truncamento. A pergunta não é "O truncamento funciona?", Mas sim "Existe uma alternativa ao truncamento que funciona?". O OP parece estar ciente de que o truncamento não funciona.

— Thomas Thomas

@ Thomas O OP pergunta (última frase do post do OP) se podemos ter um estimador limitado de que ele também é imparcial. Apresento primeiro um tratamento geral do assunto e depois um aplicativo diretamente nas instalações do OP. Não entendo por que isso "não responde à pergunta".

— Alecos Papadopoulos

Você está assumindo uma forma funcional específica para o estimador, a saber para alguns . Minha interpretação é que a pergunta é sobre qualquer estimador limitado , não apenas estimadores com essa forma funcional. Por exemplo, seria um estimador limitado (embora não seja útil).

f (\hat{θ}) = {\begin{matrix} δ_{l} & \hat{θ} < δ_{l} \\ \hat{θ} & δ_{l} \leq \hat{θ} \leq δ_{u} \\ δ_{u} & δ_{u} < \hat{θ} \end{matrix}}

$f(\hat \theta) = \left\{\begin{matrix} \delta_l & \hat \theta <\delta_l\\\hat \theta &\delta_l \leq \hat \theta \leq \delta_u \\\delta_u & \delta_u < \hat \theta \end{matrix} \right\}$

δ_{l}, δ_{u} \in R

$\delta_l,\delta_u \in \mathbb{R}$

f

$f$

f (\hat{θ}) = \sin (\hat{θ})

$f(\hat \theta) = \sin(\hat \theta)$

— Thomas Thomas

(Estou comentando essa pergunta de anos porque tenho a mesma pergunta. Em particular, a pergunta na qual estou interessado é para estimadores limitados arbitrários.) #

— Thomas

@ Thomas É verdade que minhas explorações não tratam os limites em sua maior generalidade. É verdade também que, uma vez que você compõe o estimador com uma função não linear, em geral ele deve ter seu próprio viés, como condição necessária para que a transformação seja imparcial.

— Alecos Papadopoulos