Como alguém usa o teorema de Bayes com um contínuo contínuo?

Se o meu prior é modelado como uma distribuição de probabilidade contínua, digamos, uma distribuição beta distorcida para refletir meu viés em relação a determinados modelos, como posso calcular a probabilidade posterior?

O desafio para mim é calcular a probabilidade de um determinado modelo, uma vez que a distribuição contínua apenas fornecerá estimativas para intervalos .

Por favor, perdoe a ingenuidade da pergunta; só recentemente comecei a estudar estatística bayesiana.

bayesian prior

— Rafa
fonte

Acho que a pergunta correta seria "Como posso calcular a probabilidade do modelo com base em uma amostra de dados?" Posso calcular facilmente a probabilidade dos dados fornecidos pelo modelo, mas não sei como estimar a probabilidade do modelo. E sim, estou interessado em comparação de modelos.

— 21415 Rafa

Respostas:

Para comparar modelos, diga e a resposta bayesiana clássica é (Jeffreys, 1939) para produzir um fator Bayes

M_{1} = {f_{1} (\cdot | θ_{1}); θ_{1} \in Θ_{1}}

$\mathfrak{M}_1=\{f_1(\cdot|\theta_1);\ \theta_1\in\Theta_1\}$

M_{2} = {f_{2} (\cdot | θ_{2}); θ_{2} \in Θ_{2}}

$\mathfrak{M}_2=\{f_2(\cdot|\theta_2);\ \theta_2\in\Theta_2\}$

Quando

é maior do que

a dados favorece modelo

; quando

é menor do que

, os dados favorece modelo de

B_{12} (x) = \frac{\int_{Θ_{1}} f_{1} (x | θ_{1}) π_{1} (d θ_{1})}{\int_{Θ_{2}} f_{2} (x | θ_{2}) π_{2} (d θ_{2})}

$\mathfrak{B}_{12}(x)=\frac{\int_{\Theta_1} f_1(x|\theta_1)\pi_1(\text{d}\theta_1)}{\int_{\Theta_2} f_2(x|\theta_2)\pi_2(\text{d}\theta_2)}$

B_{12} (x)

$\mathfrak{B}_{12}(x)$

1

$1$

M_{1}

$\mathfrak{M}_1$

B_{12} (x)

$\mathfrak{B}_{12}(x)$

1

$1$

M_{2}

$\mathfrak{M}_2$

— Xi'an
fonte

O teorema de Bayes é:

P (UMA | B) = \frac{P (B | UMA) P (UMA)}{P (B)}

$P(A|B) = \frac{P(B|A)P(A)}{P(B)}$

No caso de você ter alguns dados e um parâmetro, é comum usar para o parâmetro (ou vetor de parâmetro) para os dados. $\theta$ $x$

$\theta$ $p(\theta)$ $p(x|\theta)$ $p(\theta|x)$

$p(\theta|x)$

$p(\theta)$ $p(x|\theta)$ $\theta$

p (θ | x) \propto e^{- (x - θ)^{2} / 2} e^{- θ^{2} / 2}

$p(\theta|x) \propto e^{-(x-\theta)^2/2} e^{-\theta^2/2}\\$

- (x - θ)^{2} / 2 - θ^{2} / 2 \propto - (x^{2} - 2 θ x + θ^{2}) - θ^{2}

$-(x-\theta)^2/2 - \theta^2/2 \propto - (x^2 - 2\theta x + \theta^2) - \theta^2$

\propto - (θ - x / 2)^{2}

$\propto -(\theta - x/2)^2$

p (θ | x) \propto e^{- uma (θ - x / 2)^{2}}

$p(\theta|x) \propto e^{-a(\theta - x/2)^2}$

$\theta$ $x$ $\theta$ $p(x|\theta)$ $x$ $p(x|\theta)$ $p(x)$

\frac{p (x | θ_{1})}{p (x | θ_{2})}

$\frac{p(x|\theta_1)}{p(x|\theta_2)}$

$\theta_1$ $\theta_2$

Espero que isto ajude.

— Josh
fonte

Desculpe, sua resposta está incorreta. O fator Bayes não está definido desta maneira!

— Xian

Para comparação de modelos, descrevi a razão de verossimilhança. Inicialmente, usei erroneamente o termo fator Bayes.

— 21715 Josh

θ_{1}

$\theta_1$

θ_{2}

$\theta_2$

Apenas pretende descrever o caso simples em que você tem dois valores hipotéticos dos parâmetros do modelo e deseja comparar o quão bem os dados os seguem. Concordou que, se você possui dois formulários de modelo e gostaria de compará-los sem conhecer os parâmetros específicos, sua resposta fornece a abordagem correta.

— Josh