Monte Carlo Hamiltoniano (HMC): qual é a intuição e justificativa por trás de uma variável de momento distribuída gaussiana?

Estou lendo um artigo introdutório impressionante do HMC, do Prof. Michael Betancourt, mas fiquei preso ao entendimento de como podemos escolher a distribuição do momento.

Sumário

A idéia básica do HMC é introduzir uma variável de momento em conjunto com a variável de destino . Eles formam conjuntamente um espaço de fase . $p$ $q$

A energia total de um sistema conservador é uma constante e o sistema deve seguir as equações de Hamilton. Portanto, as trajetórias no espaço de fase podem ser decompostas em níveis de energia , cada nível corresponde a um determinado valor de energia e pode ser descrito como um conjunto de pontos que satisfaz: $E$

. $H^{-1}(E) = \{(q, p) | H(q, p) = E\}$

Gostaríamos de estimar a distribuição conjunta , para que, integrando , obtivemos a distribuição alvo desejada . Além disso, pode ser equivalente a $\pi(q, p)$ $p$ $\pi(q)$ $\pi(q, p)$ , onde corresponde a um valor particular da energia e é a posição nesse nível de energia. $\pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E) \hspace{1.5pt} \pi(E)$ $E$ $\theta_E$

π (q, p) = {\begin{cases} π (p | q) π (q) \\ π (θ_{E} | E) π (E), microcanonical decomposition \end{cases}

$\begin{equation} \pi(q, p)= \begin{cases} \pi(p \hspace{1.5pt} | \hspace{1.5pt} q) \hspace{1.5pt} \pi(q) \\ \pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E) \hspace{1.5pt} \pi(E), \hspace{5pt} \text{microcanonical decomposition} \end{cases} \end{equation}$

Para um dado valor de , $E$ é relativamente mais fácil de saber, pois podemos realizar a integração das equações de Hamilton para obter os pontos de dados na trajetória. No entanto, é a parte complicada que depende de como especificar o impulso, o que, consequentemente, determina a energia total . $\pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E)$ $\pi(E)$ $E$

Questões

Parece-me que o que buscamos é , mas o que podemos praticamente estimar é $\pi(E)$ , com base no pressuposto de que $\pi(E \hspace{1pt} | \hspace{1pt} q)$ pode ser aproximadamente semelhante a , como ilustrado na Fig. 23 do artigo. No entanto, o que estamos realmente amostrando parece ser $\pi(E \hspace{2pt} | \hspace{1pt} q)$ $\pi(E)$ . $\pi(p \hspace{1pt} | \hspace{1pt} q)$

Q1 : Isso é porque uma vez que sabemos , podemos facilmente calcular e, portanto, estimar $\pi(p \hspace{1pt} | \hspace{1pt} q)$ $E$ ? $\pi(E \hspace{2pt} | \hspace{1pt} q)$

$\pi(E) \sim \pi(E | q)$

π (p | q) = {\begin{cases} N (p | 0, M) Euclidean-Gaussian kinetic energy \\ N (p | 0, Σ (q)) Reimannian-Gaussian kinetic energy, \end{cases}

$\begin{equation} \pi(p|q)= \begin{cases} \mathcal{N}(p \hspace{1pt}| \hspace{1pt} 0, M) \hspace{5pt} \text{Euclidean-Gaussian kinetic energy} \\ \mathcal{N}(p \hspace{1pt}| \hspace{1pt} 0, \Sigma(q)) \hspace{5pt} \text{Reimannian-Gaussian kinetic energy}, \end{cases} \end{equation}$

$M$ $D \times D$

$M$ $q$ $\pi(p)$ $p$ $M$ $q$ $M^{-1}$ $p$ $q$

$q$ $\pi(q)$

mcmc monte-carlo hmc

— cwl
fonte

$\pi(E)$ $\pi(E)$ $\pi(E|q)$ $\pi(E)$ $\pi(E|q)$

$\pi(E)$ $\pi(p | q)$ $\pi(E|q)$

$\pi(p | q)$ $\pi(E)$

— Michael Betancourt
fonte

Eu estava tentando escrever uma resposta, mas se o Michael Betancourt estiver com validação cruzada, então eu ficarei feliz em retroceder :-) apenas uma observação: "determinação de log" provavelmente é um erro de digitação: aposto que você quis dizer "determinante de log" .

— DeltaIV

π (E)

$\pi(E)$

p i (E)

$pi(E)$

c h i^{2}

$chi^{2}$

Entendi @ Michael Betancourt, muito obrigado pela explicação!

— Cwl