Por que a densidade posterior é proporcional à função de probabilidade de tempos de densidade anteriores?

11

De acordo com o teorema de Bayes, . Mas, de acordo com meu texto econométrico, ele diz que . Por que é assim? Não entendo por que é ignorado. $P(y|\theta)P(\theta) = P(\theta|y)P(y)$ $P(\theta|y) \propto P(y|\theta)P(\theta)$ $P(y)$

bayesian conditional-probability likelihood

— problema bayes
fonte

11

Note que ele não diz que os dois são iguais, mas proporcional (até um factor, ou seja, )

1 / P (y)

$1/P(y)$

— jpmuc

4

P (y)

$P(y)$ não está sendo ignorado, mas tratado como uma constante, porque é uma função dos dados que são corrigidos para o problema em questão. Se onde é uma constante (o que não depende de ), podemos escrever que significa simplesmente que é uma constante (não especificada). Observe que os extremos de e ocorrem nos mesmos locais, para que coisas como estimativas de probabilidade máxima a posteriori (MAP ou MAPP) possam ser encontradas em sem a necessidade de conhecer (ou calcular) .

y

$y$

A (x) = c B (x)

$A(x) = cB(x)$

c

$c$

x

$x$

A (x) \propto B (x)

$A(x) \propto B(x)$

\frac{A (x)}{B (x)}

$\frac{A(x)}{B(x)}$

A (x)

$A(x)$

B (x)

$B(x)$

P (y ∣ θ) P (θ)

$P(y\mid\theta)P(\theta)$

P (y)

$P(y)$

— Dilip Sarwate

14

$Pr(y)$ , a probabilidade marginal de , não é "ignorada". É simplesmente constante. Dividir por tem o efeito de "redimensionar" os cálculos de a serem medidos como probabilidades apropriadas, isto é, em um intervalo . Sem esse dimensionamento, elas ainda são medidas relativas perfeitamente válidas , mas não estão restritas ao intervalo . $y$ $Pr(y)$ $Pr(y|\theta)P(\theta)$ $[0,1]$ $[0,1]$

$Pr(y)$ geralmente é "deixado de fora" porque geralmente é difícil de avaliar e geralmente é conveniente o suficiente para executar indiretamente a integração via simulação. $Pr(y)=\int Pr(y|\theta)Pr(\theta)d\theta$

— Sycorax diz restabelecer Monica
fonte

11

Notar que

P (θ | y) = \frac{P (θ, y)}{P (y)} = \frac{P (y | θ) P (θ)}{P (y)} .

$P(\theta | y) = \frac{P(\theta, y)}{P(y)} = \frac{P(y | \theta) P(\theta)}{P(y)}.$

Como você está interessado em calcular a densidade de , qualquer função que não dependa desse parâmetro - como - pode ser descartada. Isso lhe dá $\theta$ $P(y)$

P (θ | y) \propto P (y | θ) P (θ) .

$P(\theta | y) \propto P(y | \theta) P(\theta).$

A conseqüência do descarte de é que agora a densidade perdeu algumas propriedades, como a integração com 1, no domínio . Isso não é grande coisa, pois geralmente não se interessa em integrar funções de probabilidade, mas em maximizá-las. E quando você está maximizando uma função, multiplicando essa função por alguma constante (lembre-se de que, na abordagem bayesiana, os dados são fixos), não altera o que corresponde ao ponto máximo. Ele muda o valor da probabilidade máxima, mas, novamente, geralmente se interessa pelo posicionamento relativo de cada . $P(y)$ $P(\theta | y)$ $\theta$ $y$ $\theta$ $\theta$

— Waldir Leoncio
fonte