Algoritmos de Metropolis-Hastings usados na prática

20

Eu estava lendo o Blog de Christian Robert hoje e gostei bastante do novo algoritmo de Metropolis-Hastings que ele estava discutindo. Parecia simples e fácil de implementar.

Sempre que codifico o MCMC, costumo seguir algoritmos MH muito básicos, como movimentos independentes ou passeios aleatórios na escala de log.

Quais algoritmos de MH as pessoas usam rotineiramente? Em particular:

Por que você os usa?
Em certo sentido, você deve pensar que eles são ótimos - afinal você os usa rotineiramente! Então, como você julga a otimização: facilidade de codificação, convergência, ...

Estou particularmente interessado no que é usado na prática, ou seja, quando você codifica seus próprios esquemas.

mcmc metropolis-hastings

— csgillespie
fonte

Talvez, CW? A questão parece ser uma pesquisa do que as pessoas usam. Como você definiria a melhor resposta? Eu admito que estou um pouco confuso quando aplicar o CW. Portanto, sinta-se à vontade para ignorar esse comentário, se achar que não.

1

Eu não me importaria de deixar isso como não-CW, especialmente se Colin puder reformular um pouco para permitir a possibilidade de uma melhor resposta. Dito isto, eu não posso imaginar como fazer isso ...

— Shane

Eu tentei mudar a pergunta para torná-lo menos CW - não tenho certeza se eu ter conseguido :( @Shane @Srikant se você ainda acha que ele deve ser um CW, sinta-se livre para alterá-lo.

— csgillespie

Parece que seria um bom trabalho de pesquisa!

— 7773 Sean

2

O híbrido Monte Carlo é o algoritmo padrão usado para redes neurais. Amostragem de Gibbs para classificação de processo Gaussiana (quando não se usa uma aproximação determinística).

— Dikran Marsupial
fonte

2

A amostragem MH é usada quando é difícil coletar amostras da distribuição alvo (por exemplo, quando o anterior não é conjugado com a probabilidade). Portanto, você usa uma distribuição de proposta para gerar amostras e aceitá-las / rejeitá-las com base na probabilidade de aceitação. O algoritmo de amostragem Gibbs é uma instância específica do MH, onde as propostas são sempre aceitas. A amostragem de Gibbs é um dos algoritmos mais comumente usados devido à sua simplicidade, mas nem sempre é possível aplicar; nesse caso, recorre-se ao MH com base em propostas de aceitação / rejeição.

— ebony1
fonte

1

Em física, física estatística em particular, algoritmos do tipo Metropolis são usados extensivamente. Na verdade, existem inúmeras variantes e as novas estão sendo ativamente desenvolvidas. É um tópico muito amplo para oferecer qualquer tipo de expansão aqui, por isso, se você estiver interessado, pode começar, por exemplo, a partir dessas notas de aula ou da página da biblioteca da ALPS (http://alps.comp-phys.org/mediawiki).

— ev-br
fonte

Percebo que existem inúmeras variantes desse algoritmo. O que eu estava interessado era em quais as pessoas usam rotineiramente.

— Csgillespie 6/09/10

1

Eu uso um amostrador de fatias - originalmente proposto por Neal (2003), que ajusto através da otimização heurística.

— M. Tibbits
fonte

Algoritmos de Metropolis-Hastings usados ​​na prática

Algoritmos de Metropolis-Hastings usados na prática