Matriz de informações de Fisher esperada para distribuição t de Student?

Estou tendo problemas para encontrar um recurso on-line que deriva da Matriz de Informações de Fisher esperada para a distribuição t do aluno univariada. Alguém conhece esse recurso?

Na ausência de qualquer recurso existente que deriva a matriz de informações de Fisher esperada para a distribuição t, eu mesmo estou tentando derivá-lo, mas estou preso. Aqui está o meu trabalho até agora:

$y_i \sim t(\mu, \sigma^2, v)$ onde é o parâmetro dos graus de liberdade (df) (assumido fixo). Então: $v$

\begin{aligned} f (y_{i}) & = \frac{Γ (\frac{v + 1}{2})}{Γ (\frac{v}{2}) \sqrt{π v σ^{2}}} (1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2})^{\frac{- (v + 1)}{2}} \end{aligned}

$\begin{align*} f(y_i) &= \frac{\Gamma(\frac{v+1}{2})}{\Gamma(\frac{v}{2})\sqrt{\pi v \sigma^2}}\big(1+\frac{1}{v\sigma^2}(y_i-\mu)^2\big)^{\frac{-(v+1)}{2}} \end{align*}$

Portanto, temos a seguinte função de probabilidade de log :

\begin{aligned} l o g f (y_{i}) = l o g Γ (\frac{v + 1}{2}) - l o g Γ (\frac{v}{2}) - \frac{1}{2} l o g (π v σ^{2}) + \frac{- (v + 1)}{2} l o g [1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}] \end{aligned}

$\begin{align*} log f(y_i)=log\Gamma(\frac{v+1}{2})-log\Gamma(\frac{v}{2})-\frac{1}{2}log(\pi v \sigma^2)+ \frac{-(v+1)}{2}log\big[1+\frac{1}{v\sigma^2}(y_i-\mu)^2\big] \end{align*}$

Aqui as primeiras equações derivadas :

\begin{aligned} \frac{\partial}{\partial μ} l o g f (y_{i}) = \frac{v + 1}{2} \frac{\frac{2}{v σ^{2}} (y_{i} - μ)}{1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}} \\ \frac{\partial}{\partial σ^{2}} l o g f (y_{i}) = \frac{- 1}{2 σ^{2}} - \frac{(v + 1)}{2} \frac{\frac{- 1}{v σ^{4}} (y_{i} - μ)^{2}}{1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}} \end{aligned}

$\begin{align*} &\frac{\partial}{\partial \mu}logf(y_i)=\frac{v+1}{2}\frac{\frac{2}{v\sigma^2}(y_i-\mu)}{1+\frac{1}{v\sigma^2}(y_i-\mu)^2} \\ & \frac{\partial}{\partial \sigma^2}logf(y_i)= \frac{-1}{2\sigma^2}-\frac{(v+1)}{2} \frac{\frac{-1}{v\sigma^4}(y_i-\mu)^2}{1+\frac{1}{v\sigma^2}(y_i-\mu)^2} \end{align*}$

E aqui estão as equações da segunda derivada:

\begin{aligned} \frac{\partial}{\partial μ^{2}} l o g f (y_{i}) = \frac{v + 1}{2} \frac{\frac{- 2}{v σ^{2}} + \frac{2}{d v^{2} σ^{4}} (y_{i} - μ)^{2}}{(1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2})^{2}} \\ \frac{\partial}{\partial μ \partial σ^{2}} l o g f (y_{i}) = \frac{v + 1}{2} {[\frac{2}{v σ^{2}} - \frac{4}{v^{2} σ^{6}} (y_{i} - μ)^{2}] [1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}]^{2} - [\frac{- 2}{v σ^{2}} + \frac{2}{v^{2} σ^{4}} (y_{i} - μ)^{2}] * 2 [1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}] [\frac{- 1}{v σ^{4}} (y_{i} - μ)^{2}]} / {[1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}]^{4}} . . . . . really messy! \\ \frac{\partial}{\partial (σ^{2})^{2}} l o g f (y_{i}) = \frac{1}{2 σ^{4}} - \frac{(v + 1)}{2} \frac{\frac{1}{v σ^{6}} (y_{i} - μ)^{2}}{[1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}]^{2}} \end{aligned}

$\begin{align*} &\frac{\partial}{\partial \mu^2}logf(y_i)=\frac{v+1}{2}\frac{\frac{-2}{v\sigma^2}+\frac{2}{dv^2\sigma^4}(y_i-\mu)^2}{\big(1+\frac{1}{v\sigma^2}(y_i-\mu)^2\big)^2} \\ & \frac{\partial}{\partial \mu \partial \sigma^2}logf(y_i) =\frac{v+1}{2} \Big\{[\frac{2}{v\sigma^2}-\frac{4}{v^2\sigma^6}(y_i-\mu)^2][1+\frac{1}{v\sigma^2}(y_i-\mu)^2]^2-[\frac{-2}{v\sigma^2}+\frac{2}{v^2\sigma^4}(y_i-\mu)^2]*2[1+\frac{1}{v\sigma^2}(y_i-\mu)^2][\frac{-1}{v\sigma^4}(y_i-\mu)^2]\Big\}/\Big\{ [1+\frac{1}{v\sigma^2}(y_i-\mu)^2]^4\Big\}.....\text{really messy!} \\ &\frac{\partial}{\partial (\sigma^2)^2}logf(y_i)=\frac{1}{2\sigma^4}-\frac{(v+1)}{2}\frac{\frac{1}{v\sigma^6}(y_i-\mu)^2}{[1+\frac{1}{v\sigma^2}(y_i-\mu)^2]^2} \end{align*}$

Finalmente, a matriz de informações do pescador esperada é calculada da seguinte forma:

\begin{aligned} I = - E ([\begin{matrix} \frac{\partial^{2}}{\partial μ^{2}} l o g f (y_{i}) & \frac{\partial}{\partial μ \partial σ^{2}} l o g f (y_{i}) \\ \frac{\partial}{\partial μ \partial σ^{2}} l o g f (y_{i}) & \frac{\partial^{2}}{\partial (σ^{2})^{2}} l o g f (y_{i}) \end{matrix}]) \end{aligned}

$\begin{align*} \boldsymbol{I}= -\mathbb{E}\Big(\begin{bmatrix} \frac{\partial^2}{\partial \mu^2}logf(y_i) & \frac{\partial}{\partial \mu \partial \sigma^2}logf(y_i) \\ \frac{\partial}{\partial \mu \partial \sigma^2}logf(y_i) & \frac{\partial^2}{\partial (\sigma^2)^2}logf(y_i) \end{bmatrix}\Big) \end{align*}$

No entanto, não tenho idéia de como calcular essas expectativas. Alguém está ciente de um recurso que fez isso? Honestamente, a única quantidade que eu estou interessado é: , faria alguém pelo menos possa me ajudar a calcular isso? $-\mathbb{E}\big[\frac{\partial^2}{\partial (\sigma^2)^2}logf(y_i)\big]$

probability t-distribution fisher-information

— bayes003
fonte

Respostas:

Fui informado de que Lange e cols. 1989 derivaram as informações de Fisher esperadas para a distribuição t multivariada no Apêndice B. Portanto, obtive a resposta que queria, você pode considerar essa pergunta como respondida!

Em particular, usando o resultado de Lange et al, deduzi a seguinte Matriz de Informações de Fisher para a distribuição t univariada (com parâmetro fixo de graus de liberdade ): $v$

\begin{aligned} I = [\begin{matrix} \frac{v + 1}{(v + 3) σ^{2}} & 0 \\ 0 & \frac{v}{2 (v + 3) σ^{4}} \end{matrix}] \end{aligned}

$\begin{align*} \boldsymbol{I}=\begin{bmatrix} \frac{v+1}{(v+3)\sigma^2} & 0 \\ 0 & \frac{v}{2(v+3)\sigma^4} \end{bmatrix} \end{align*}$

— bayes003
fonte

Existe alguma referência em que a Matriz de Informações de Fisher foi derivada para parâmetros de graus variáveis de liberdade, ou seja, Matriz de Informações tridimensional de Fisher, onde são fornecidas a escala, a localização e os graus de liberdade?

— uday 30/09

Eu tenho a mesma pergunta. Temos uma matriz Fisher 3x3 que inclui o parâmetro nu?

— Riemann1337

Resultado acima confirmado correto com a FisherInformationfunção inmathStatica

— wolfies

Não é difícil (mas um pouco tedioso) usando a fórmula Primeiro, observe que, pela mudança das variáveis em qualquer integral envolvida, pode-se tomar nos cálculos.

I (μ, σ^{2}) = E [(\begin{matrix} {(\frac{\partial}{\partial μ} \log f (Y))}^{2} & (\frac{\partial}{\partial μ} \log f (Y)) (\frac{\partial}{\partial σ} \log f (Y)) \\ (\frac{\partial}{\partial μ} \log f (Y)) (\frac{\partial}{\partial σ} \log f (Y)) & {(\frac{\partial}{\partial σ^{2}} \log f (Y))}^{2} \end{matrix})] .

$\mathcal{I}(\mu, \sigma^2) = \mathbb{E}\left[\begin{pmatrix}{\left(\frac{\partial}{\partial\mu} \log f(Y)\right)}^2 & \left(\frac{\partial}{\partial\mu} \log f(Y)\right)\left(\frac{\partial}{\partial\sigma} \log f(Y)\right) \\ \left(\frac{\partial}{\partial\mu} \log f(Y)\right)\left(\frac{\partial}{\partial\sigma} \log f(Y)\right) & {\left(\frac{\partial}{\partial\sigma^2} \log f(Y)\right)}^2 \end{pmatrix} \right].$

y \mapsto y - μ

$y \mapsto y-\mu$

μ = 0

$\mu=0$

Os cálculos baseiam-se na seguinte integral: Essa igualdade é obtida pela alteração das variáveis e com a ajuda da densidade da distribuição principal Beta .

I (λ, a, b) := \int_{0}^{\infty} y^{2 a - 1} {(1 + \frac{1}{λ} y^{2})}^{- \frac{2 a + b}{2}} d y = \frac{λ^{a}}{2} B (a, \frac{b}{2}) .

$I(\lambda, a, b) := \int_0^\infty y^{2a-1}\left(1+\frac{1}{\lambda}y^2\right)^{-\frac{2a+b}{2}} \textrm{d}y = \frac{\lambda^a}{2} B\left(a, \frac{b}{2}\right).$

y \mapsto y^{2}

$y \mapsto y^2$

Observe que o integrando é uma função par quando é um número inteiro par; portanto, $2a-1$

J (λ, a, b) := \int_{- \infty}^{+ \infty} y^{2 a - 1} {(1 + \frac{1}{λ} y^{2})}^{- \frac{p + 1 + b}{2}} d y = 2 I (λ, a, b) = λ^{a} B (a, \frac{b}{2}) .

$J(\lambda, a, b) := \int_{-\infty}^{+\infty} y^{2a-1}\left(1+\frac{1}{\lambda}y^2\right)^{-\frac{p+1+b}{2}} \textrm{d}y = 2 I(\lambda, a, b) = \lambda^a B\left(a, \frac{b}{2}\right).$

Vou detalhar apenas o primeiro cálculo. Defina a constante de normalização da densidade.

K (ν, σ) = \frac{1}{B (\frac{1}{2}, \frac{ν}{2})} \frac{1}{\sqrt{ν σ^{2}}},

$K(\nu, \sigma)=\frac{1}{B\left(\frac12,\frac{\nu}{2}\right)}\frac{1}{\sqrt{\nu \sigma^2}},$

Alguém tem Desde que , encontramos O segundo cálculo é fácil:

\begin{aligned} E [{(\frac{\partial}{\partial μ} \log f (Y))}^{2}] = K (ν, σ) {(\frac{ν + 1}{ν σ^{2}})}^{2} J (ν σ^{2}, \frac{3}{2}, ν + 2) . \end{aligned}

$\begin{align} \mathbb{E}\left[{\left(\frac{\partial}{\partial\mu} \log f(Y)\right)}^2 \right] = K(\nu, \sigma){\left(\frac{\nu+1}{\nu\sigma^2}\right)}^2 J\left(\nu\sigma^2, \frac{3}{2}, \nu+2\right). \end{align}$

\frac{B (\frac{1}{2}, \frac{ν}{2})}{B (\frac{3}{2}, \frac{ν + 2}{2})} = \frac{B (\frac{1}{2}, \frac{ν}{2})}{B (\frac{3}{2}, \frac{ν}{2})} \frac{B (\frac{3}{2}, \frac{ν}{2})}{B (\frac{3}{2}, \frac{ν + 2}{2})} = \frac{(ν + 1)}{1} \frac{(ν + 3)}{ν}

$\frac{B\left(\frac12,\frac{\nu}{2}\right)}{B\left(\frac{3}{2},\frac{\nu+2}{2}\right)} = \frac{B\left(\frac12,\frac{\nu}{2}\right)}{B\left(\frac{3}{2},\frac{\nu}{2}\right)}\frac{B\left(\frac{3}{2},\frac{\nu}{2}\right)}{B\left(\frac{3}{2},\frac{\nu+2}{2}\right)} = \frac{(\nu+1)}{1}\frac{(\nu+3)}{\nu}$

E [{(\frac{\partial}{\partial μ} \log f (Y))}^{2}] = \frac{ν}{ν + 3} (ν + 1) {(ν σ^{2})}^{- 1 / 2 - 2 + 3 / 2} = \frac{ν + 1}{(ν + 3) σ^{2}} .

$\mathbb{E}\left[{\left(\frac{\partial}{\partial\mu} \log f(Y)\right)}^2 \right] = \frac{\nu}{\nu+3}(\nu+1){(\nu\sigma^2)}^{-1/2-2+3/2} = \frac{\nu+1}{(\nu+3)\sigma^2}.$

E [(\frac{\partial}{\partial μ} \log f (Y)) (\frac{\partial}{\partial σ} \log f (Y))] = 0

$\mathbb{E}\left[ \left(\frac{\partial}{\partial\mu} \log f(Y)\right)\left(\frac{\partial}{\partial\sigma} \log f(Y)\right)\right] = 0$ porque envolve apenas integrais de funções ímpares.

Finalmente, o cálculo de é o mais tedioso e Eu pulo. Seu cálculo envolve integrais com inteiro par, cujo valor é dado acima.

E [{(\frac{\partial}{\partial σ^{2}} \log f (Y))}^{2}]

$\mathbb{E}\left[{\left(\frac{\partial}{\partial\sigma^2} \log f(Y)\right)}^2 \right]$

J (ν σ^{2}, a, b)

$J(\nu\sigma^2, a, b)$

2 a - 1

$2a-1$

Fiz os cálculos e encontrei e isso simplifica para

\frac{{(ν + 1)}^{2}}{4 {(ν σ^{4})}^{2}} K (ν, σ^{2}) J (ν σ^{2}, \frac{5}{2}, ν) - \frac{ν + 1}{2 ν σ^{6}} K (ν, σ^{2}) J (ν σ^{2}, \frac{3}{2}, ν) + \frac{1}{4 σ^{4}}

$\frac{{(\nu+1)}^2}{4{(\nu\sigma^4)}^2} K(\nu, \sigma^2) J\left(\nu\sigma^2, \frac{5}{2},\nu\right) - \frac{\nu+1}{2\nu\sigma^6} K(\nu, \sigma^2) J\left(\nu\sigma^2, \frac{3}{2},\nu\right) + \frac{1}{4\sigma^4}$

\frac{ν}{2 (ν + 3) σ^{4}} .

$\frac{\nu}{2(\nu+3)\sigma^4}.$

— Stéphane Laurent
fonte