Condições para o estimador M convergir para a verdadeira média

10

Dado amostras iid de uma distribuição gaussiana $X_1,...,X_n \sim N(\mu,\sigma)$ e o estimador M-, $\mu_m = \underset{a}{\operatorname{argmin}} \sum\rho(|X_i-a|)$ , o que propriedades em $\rho$ são suficientes para garantir $\mu_m \rightarrow \mu$ na probabilidade? É $\rho$ sendo estritamente convexa e estritamente crescente suficiente?

estimation

— Lagarta
fonte

Desde que você pode levar

ρ (x) = x

$\rho(x) = x$ e, em seguida,

μ_{m}

$\mu_m$ é a média da amostra, o que significa que poderia ser ainda não estritamente convexa, mas estritamente crescente sim, assim ... Eu colocaria quer estritamente convexa ou estritamente crescente, tanto parece ser suficiente, embora ainda tenha que provar isso. A convexidade intuitivamente estrita garante um mínimo global único, pois para aumentar estritamente é o pressuposto de gaussianidade que importa.

— Dmitrij Celov 03/08

1

$\rho(x,a)$ $g(y,t)$ $g$ $t$ $g$ $t$ $\theta_0$ $\rho$ $g$

Suponha que tenhamos

$Y,Y_{1},Y_{2},\ldots$ $F$
$\theta_{0}=\theta(F)\in\cal{R}^{p}$
$\theta_{0}\in\arg\min_{t\in\cal{R}^{p}}\mathbb{E} g(Y,t)$ $g(y,t)$ $t$
Temos uma "fraca expansão" de em em torno de : para um com zero médio em e para uma matriz definida positiva . $g(y,t)$ $t$ $\theta_{0}$ $g (y, θ_{0} + t) - g (y, θ_{0}) = D (y)^{T} t + R (y, t),$ $g(y,\theta_{0}+t)-g(y,\theta_{0})=D(y)^{T}t+R(y,t),$ $D(y)$ $F$ $E R (Y, t) = \frac{1}{2} t^{T} J t + o ({| t |}^{2}), as t \to 0$ $\mathbb{E} R(Y,t)=\frac{1}{2}t^{T}Jt+o(\left|t\right|^{2}),\mbox{ as }t\to0$ $J$
$\mbox{Var}[ R(Y,t) ]=o(\left|t\right|^{2})$ como . $t\to0$
$D(Y)$ tem uma matriz de covariância finita . $K=\int D(y)D(y)^{T}\, dF(y)$

ENTÃO qualquer estimador é consistente com e assintoticamente normal com $\hat{\theta}_{n}\in\arg\min_{\theta\in\cal{R}^{p}}\sum_{i=1}^{n}g(Y_{i},t)$ $\sqrt{n}$ $\theta_{0}$

\sqrt{n} ({\hat{θ}}_{n} - θ_{0}) \overset{d}{\to} N_{p} (0, J^{- 1} K J^{- 1}) .

$\sqrt{n}\left(\hat{\theta}_{n}-\theta_{0}\right)\stackrel{d}{\rightarrow}\mathcal{N}_{p}(0,J^{-1} K J^{-1}).$

— DavidR
fonte

0

Isso não será uma resposta, pois reduzirá seu problema a outro, mas acho que pode ser útil. Sua pergunta é basicamente sobre a consistência do estimador-M. Então, primeiro podemos ver os resultados gerais. Aqui está o resultado do livro de van der Vaart (teorema 5.7, página 45):

Teorema Seja funções aleatórias e seja uma função fixa de modo que para cada $M_n$ $M$ $\theta$ $\varepsilon>0$

sup_{θ \in Θ} | M_{n} (θ) - M (θ) | \overset{P}{\to} 0,

$\sup_{\theta\in\Theta}|M_n(\theta)-M(\theta)|\xrightarrow{P}0,$

sup_{θ : d (θ, θ_{0}) \geq ε} M (θ) < M (θ_{0}) .

$\sup_{\theta:d(\theta,\theta_0)\ge\varepsilon} M(\theta)<M(\theta_0).$

Então qualquer sequência de estimadores com converge em probabilidade para $\hat\theta_n$ $M_n(\hat\theta_n)\ge M_n(\theta_0)-o_P(1)$ $\theta_0$

No seu caso , e $\theta_0=\mu$ $M(\theta)=E\rho(|X-\theta|)$ $M_n(\theta)=\frac{1}{n}\sum \rho(|X_i-\theta|)$

A condição chave aqui é a convergência uniforme. Na página 46, van der Vaart diz

que para médias que é o seu caso, essa condição é equivalente ao conjunto de funções ( no seu caso) sendo Glivenko -Canteli . Um conjunto simples de condições suficientes é que seja compacto, que as funções sejam contínuas para cada e que> sejam dominadas por uma função integrável. $\{m_\theta, \theta\in\Theta\}$ $m_\theta=\rho(|x-\theta|)$ $\Theta$ $\theta\to m_\theta(x)$ $x$

Em Wooldridge, esse resultado é formulado como um teorema chamado Lei Fraca Uniforme de Grandes Números, página 347 (primeira edição), teorema 12.1. Ele apenas adiciona requisitos de mensurabilidade ao que van der Vaart afirma.

No seu caso, você pode escolher com segurança para algum , portanto, você precisa mostrar que existe a função tal que $\Theta=[\mu-C,\mu+C]$ $C$ $b$

| ρ (| x - θ |) | \leq b (x)

$|\rho(|x-\theta|)|\le b(x)$

para todos , tais que . A teoria da função convexa pode ser útil aqui, já que você pode tomar $\theta\in\Theta$ $Eb(X)<\infty$

b (x) = sup_{θ \in Θ} | ρ (| x - θ |) | .

$b(x)=\sup_{\theta\in\Theta}|\rho(|x-\theta|)|.$

Se essa função tiver boas propriedades, você estará pronto.

— mpiktas
fonte