Jeffreys antes para probabilidade binomial

Se eu usar um Jeffreys anterior para um parâmetro de probabilidade binomial , isso implica o uso de uma distribuição . $\theta$ $\theta \sim beta(1/2,1/2)$

Se eu me transformar em um novo quadro de referência então claramente também não será distribuído como uma distribuição . $\phi = \theta^2$ $\phi$ $beta(1/2,1/2)$

Minha pergunta é: em que sentido Jeffreys é invariante antes de reparameterizações? Acho que estou entendendo mal o tópico para ser honesto ...

melhor,

Ben

bayesian jeffreys-prior

— ben18785
fonte

O prior de Jeffreys é invariável no sentido de que começar com um Jeffreys anterior para uma parametrização e executar a alteração apropriada da variável é idêntico ao derivar o Jeffreys anterior diretamente para essa nova parametrização. Na verdade, equivariante seria um termo mais apropriado que invariante .

— Xi'an

@ ben18785: dar uma olhada em stats.stackexchange.com/questions/38962/...

— Zen

Veja também math.stackexchange.com/questions/210607/… (mais ou menos a mesma pergunta que eu penso, mas em um site diferente).

— Nathaniel

Veja também stats.stackexchange.com/questions/139001/…

— Christoph Hanck 6/19

Vamos ter $\phi = g(\theta)$ , onde $g$ é uma função monótona de $\theta$ e seja $h$ o inverso de $g$ , de modo que $\theta = h(\phi)$ . Podemos obter a distribuição prévia de Jeffrey $p_{J}(\phi)$ de duas maneiras:

Comece com o modelo binomial (1) $p (y | θ) = (\binom{n}{y}) θ^{y} (1 - θ)^{n - y}$ $\begin{equation} \label{original} p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y} \end{equation}$ reparameteriza o modelo com $\phi = g(\theta)$ para obter $p (y | ϕ) = (\binom{n}{y}) h (ϕ)^{y} (1 - h (ϕ))^{n - y}$ $p(y | \phi) = \binom{n}{y} h(\phi)^{y} (1-h(\phi))^{n-y}$ e obtenha a distribuição prévia de Jeffrey $p_{J}(\phi)$ para este modelo.
Obtenha a distribuição anterior de Jeffrey $p_{J}(\theta)$ do modelo binomial original 1 e aplique a fórmula de mudança de variáveis para obter a densidade anterior induzida em $\phi$ $p_{J} (ϕ) = p_{J} (h (ϕ)) | \frac{d h}{d ϕ} | .$ $p_{J}(\phi) = p_{J}(h(\phi)) |\frac{dh}{d\phi}|.$

Para ser invariante ao meio reparameterisations que densidades $p_{J}(\phi)$ derivada de ambos os modos deve ser o mesmo. O prior de Jeffrey tem essa característica [Referência: Um Primeiro Curso em Métodos Estatísticos Bayesianos de P. Hoff .]

Para responder seu comentário. Para obter a distribuição prévia de Jeffrey $p_{J}(\theta)$ partir da probabilidade do modelo binomial

p (y | θ) = (\binom{n}{y}) θ^{y} (1 1 - θ)^{n - y}

$p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y}$ devemos calcular as informações de Fisher tomando o logaritmo da probabilidade

l

$l$ e calcular a segunda derivada de

l

$l$

\begin{aligned} eu : = registro (p (y | θ)) & \propto y registro (θ) + (n - y) registro (1 1 - θ) \\ \frac{\partial eu}{\partial θ} & = \frac{y}{θ} - \frac{n - y}{1 1 - θ} \\ \frac{\partial^{2} eu}{\partial θ^{2}} & = - \frac{y}{θ^{2}} - \frac{n - y}{(1 1 - θ)^{2}} \end{aligned}

$\begin{align*} l := \log(p(y | \theta)) &\propto y \log(\theta) + (n-y) \log(1-\theta) \\ \frac{\partial l }{\partial \theta} &= \frac{y}{\theta} - \frac{n-y}{1-\theta} \\ \frac{\partial^{2} l }{\partial \theta^{2}} &= -\frac{y}{\theta^{2}} - \frac{n-y}{ (1-\theta)^{2} } \end{align*}$ e as informações de Fisher são

\begin{aligned} I (θ) & = - E (\frac{\partial^{2} l}{\partial θ^{2}} | θ) \\ = \frac{n θ}{θ^{2}} + \frac{n - n θ}{(1 - θ)^{2}} \\ = \frac{n}{θ (1 - θ)} \\ \propto θ^{- 1} (1 - θ)^{- 1} . \end{aligned}

$\begin{align*} I(\theta) &= -E(\frac{\partial^{2} l }{\partial \theta^{2}} | \theta) \\ &= \frac{n\theta}{\theta^{2}} + \frac{n - n \theta}{(1-\theta)^{2}} \\ &= \frac{n}{\theta ( 1- \theta)} \\ &\propto \theta^{-1} (1-\theta)^{-1}. \end{align*}$ O prior de Jeffrey para este modelo é

\begin{aligned} p_{J} (θ) & = \sqrt{I (θ)} \\ \propto θ^{- 1 / 2} (1 - θ)^{- 1 / 2} \end{aligned}

$\begin{align*} p_{J}(\theta) &= \sqrt{I(\theta)} \\ &\propto \theta^{-1/2} (1-\theta)^{-1/2} \end{align*}$ que é

beta (1 / 2, 1 / 2)

$\texttt{beta}(1/2, 1/2)$ .

— Marko Lalović
fonte

Obrigado pela sua resposta. Com medo de estar sendo um pouco lento. Em que sentido podemos obter um prior a partir de uma probabilidade? Eles são duas coisas distintas, e que este último não implica o antigo ...

— ben18785

p_{J} (θ)

$p_{J}(\theta)$