Quais são as condições de regularidade para o teste da Razão de Verossimilhança

Alguém poderia me dizer quais são as condições de regularidade para a distribuição assintótica do teste da Razão de Verossimilhança?

Em todo lugar que olho, está escrito 'Sob as condições de regularidade' ou 'sob as regularidades probabilísticas'. Quais são exatamente as condições? Que o primeiro e o segundo derivativos de probabilidade logarítmica existem e a matriz de informações não é zero? Ou algo completamente diferente?

maximum-likelihood likelihood-ratio asymptotics

— Kingstat
fonte

As condições de regularidade exigidas estão listadas na maioria dos livros intermediários e não são diferentes das do mle. Os seguintes dizem respeito ao caso de um parâmetro, mas sua extensão para o multiparâmetro é direta.

Condição 1 : os PDFs são distintos, por exemplo, $\theta \neq \theta ^{\prime} \Rightarrow f(x_i;\theta)\neq f(x_i;\theta ^{\prime})$

Observe que essa condição afirma essencialmente que o parâmetro identifica o pdf.

Condição 2: os PDFs têm suporte comum a todos $\theta$

O que isso implica é que o suporte não depende de $\theta$

Condição 3 : O ponto , o parâmetro real que é, é um ponto interior em algum conjunto $\theta_0$ $\Omega$

O último diz respeito à possibilidade de que apareça nos pontos finais de um intervalo. $\theta$

Esses três juntos garantem que a probabilidade seja maximizada no parâmetro verdadeiro e, em seguida, que a mle que resolve a equação $\theta_0$ $\hat{\theta}$

\frac{\partial l (θ)}{\partial θ} = 0

$\frac{\partial l(\theta)} {\partial \theta}=0$

é consistente.

Condição 4 : o pdf ser diferenciado duas vezes em função de $f(x;\theta)$ $\theta$

Condição 5 : A integral pode ser diferenciada duas vezes sob o sinal integral como uma função de $\int_{-\infty}^{\infty} f(x;\theta)\ \mathrm dx$ $\theta$

Precisamos dos dois últimos para derivar a Informação de Fisher, que desempenha um papel central na teoria da convergência da mle.

Para alguns autores, isso é suficiente, mas, para sermos detalhados, precisamos adicionalmente de uma condição final que garanta a normalidade assintótica da mle.

Condição 6 : O pdf é três vezes diferenciável em função de . Além disso, para todos , existe uma constante e uma função tal que $f(x;\theta)$ $\theta$ $\theta \in \Omega$ $c$ $M(x)$

| \frac{\partial^{3} l o g f (x; θ)}{\partial θ^{3}} | \leq M (x)

$\left| \frac{\partial^3 log f(x;\theta)}{\partial \theta^3} \right| \leq M(x)$

com para todos todo no suporte de $E_{\theta_0} \left[M(X)\right] <\infty$ $|\theta-\theta_0|<c$ $x$ $X$

Essencialmente, a última condição permite concluir que o restante de uma expansão de Taylor de segunda ordem sobre é delimitada em probabilidade e, portanto, não apresenta problemas assintoticamente. $\theta_0$

É isso que você tinha em mente?

— JohnK
fonte

Obrigado. Mas você tem certeza de que as condições de regularidade relacionadas à prova de que -2log (lambda) segue o quadrado do Chi com df 1 são as mesmas?

— Kingstat

@Kingstat Sim. Essas condições vêm de "Introdução à estatística matemática" de Hogg e Craig e garantem que, em , seja ,

H_{0}

$H_0$

θ = θ_{0}

$\theta=\theta_0$

- 2 \log Λ \to^{D} χ^{2} (1)

$-2\log\Lambda \to^D \chi^2 (1)$

— JohnK

você também poderia me dizer como, para uma densidade N (θ, 1), o teste Rao's Score é equivalente ao teste UMPU?

— Kingstat

@Kingstat O que significa UMPU?

— 21468 John

Uniformemente mais poderoso e imparcial.

— Kingstat