Constante de normalização no teorema de Bayes

15

Eu li que na regra de Bayes, o denominador de $\Pr(\textrm{data})$

Pr (parameters ∣ data) = \frac{Pr (data ∣ parameters) Pr (parameters)}{Pr (data)}

$\Pr(\text{parameters} \mid \text{data}) = \frac{\Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\text{parameters})}{\Pr(\text{data})}$

é chamado de constante de normalização . O que exatamente é isso? Qual é seu propósito? Por que parece ? Por que não depende dos parâmetros? $\Pr(data)$

probability bayesian

— amador
fonte

4

Quando você integra , você está integrando os parâmetros e, portanto, o resultado não tem termo, dependendo dos parâmetros, da mesma maneira que não depende de .

f (data | params) f (params)

$f(\text{data}|\text{params})f(\text{params})$

\int_{x = 0}^{x = 2} x y d x = 2 y

$\int_{x=0}^{x=2}xy\;dx = 2y$

x

$x$

— Henry

16

O denominador, , é obtido integrando os parâmetros da probabilidade de junção, . Essa é a probabilidade marginal dos dados e, é claro, não depende dos parâmetros, pois eles foram integrados. $\Pr(\textrm{data})$ $\Pr(\textrm{data}, \textrm{parameters})$

Agora, desde:

$\Pr(\textrm{data})$ não depende dos parâmetros para os quais se deseja fazer inferência;
$\Pr(\textrm{data})$ geralmente é difícil de calcular de forma fechada;

costuma-se usar a seguinte adaptação da fórmula de Baye:

$\Pr(\textrm{parameters} \mid \textrm{data}) \propto \Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\textrm{parameters})$

Basicamente, nada mais é do que uma "constante de normalização", isto é, uma constante que faz com que a densidade posterior se integre a uma . $\Pr(\textrm{data})$

— ocram
fonte

2

O que você quer dizer exatamente com " integrando os parâmetros"? Qual é o significado preciso de "integração" neste contexto?

— Nvr 7/0318

2

@nbro: Eu significativo Pr (dados) = integral ao longo dos parâmetros de Pr (dados, os parâmetros)

— Ocram

2

Ao aplicar a regra de Bayes, geralmente desejamos inferir os "parâmetros" e os "dados" já são fornecidos. Portanto, é uma constante e podemos assumir que é apenas um fator de normalização. $\Pr(\textrm{data})$

— Harsh
fonte