Algoritmo Metropolis Hastings

Eu preciso estudar os métodos Monte Carlo da Cadeia de Markov, para ser mais específico, eu preciso estudar o algoritmo Metropolis Hastings e tudo sobre ele como critérios de convergência.

Quem pode me prescrever um livro, um artigo ou um site que explique esse argumento usando termos simples, mas sem ser trivial?

Um excelente artigo introdutório é o de Chib e Greenberg

Entendendo o Algoritmo de Metrópole-Hasting

Uma discussão magistral e concisa da teoria é a de Tierney.

Cadeias de Markov para explorar distribuições posteriores

Para um livro que não seja "pesado em matemática", eu recomendo:

• Fazendo análise de dados bayesiana: um tutorial com R e BUGS de John K. Kruschke.

Vá para o capítulo 7.

O código R é fornecido no livro, para que você possa brincar com os exemplos e ver, de maneira prática, os efeitos da alteração do número de burn-ins e assim por diante.

Há um artigo muito bom de Christian Robert descrevendo o algoritmo MH em detalhes

Robert, CP (2015). O algoritmo Metropolis-Hastings. pré-impressão do arXiv arXiv: 1504.01896.

e ótimo livro sobre os métodos de Monte Carlo em geral do mesmo autor

Robert, C. & Casella, G. (2013). Métodos estatísticos de Monte Carlo. Springer Science & Business Media.

No que diz respeito aos critérios de convergência, a maior parte do trabalho é sobre convergência: o sentido de distância da Variação Total (TV). Principalmente porque há muita teoria das probabilidades elaborada para a distância da TV. Há um bom trabalho de pesquisa e também do lado teórico há o trabalho de Roberts e Rosenthal que fornece vários teoremas sobre critérios de convergência. No lado mais prático, existem vários artigos escritos por Jim Hobert que fornecem exemplos de aplicação de um dos teoremas de Roberts e Rosenthal ao MCMC. Em geral, a parte complicada de aplicar esse teorema parece estar apresentando uma boa função de deriva de Lyapunov.

Aqui está uma analogia grosseira que eu usei para dar o sabor do MHA: Da próxima vez que estiver no supermercado:

1. Pegue um item aleatoriamente e coloque no seu carrinho.

2. Pegue outro item com a mão direita.

3. Se o item em sua mão tiver um preço menor que o último item que você comprou, coloque-o no carrinho.

4. Caso contrário, coloque o item no seu carrinho com probabilidade (preço do último) ÷ (preço na mão) ou substitua-o novamente.

5. Repita as etapas 2 a 4 até que vinte e nove itens adicionais estejam no seu carrinho.

6. Remova os 15 primeiros itens do seu carrinho.

7. Caixa e desejo caixa um dia agradável.

8. Role o carrinho para o seu carro.

9. Dirija para casa.