Quando o MCMC se tornou comum?


18

Alguém sabe por que ano o MCMC se tornou comum (isto é, um método popular para a inferência bayesiana)? Um link para o número de artigos publicados no MCMC (diário) ao longo do tempo seria especialmente útil.


2
Duvido que alguém possa fornecer um único ano. É mais razoável considerar a difusão do MCMC ao longo do tempo. Originou-se nos anos 50 com o algoritmo Metropolis-Hastings, mas não viu ampla adoção e uso até o advento de um poder computacional relativamente barato a partir dos anos 80. Que eu saiba, os primeiros usos foram nas tecnologias de reconhecimento facial bayesiano da época. Secundariamente, a partir dos anos 90, o uso do MCMC se espalhou para outros campos, como economia e marketing, na escola de Chicago. Confira o MCMC Prático de Gilks ​​& Spiegelhalter em 1996 .
user332577 7/10

1
Essa pergunta é vaga e requer opinião (não há definição aceita de comum ou popular). Ele admite qualquer número de respostas indiscutivelmente corretas.
Glen_b -Reinstate Monica

1
@ Glen_b Eu acho que a resposta dada abaixo é excelente. Você discorda? Ou você escreveu seu comentário antes dessa resposta? (Ambos apenas dizem 'ontem').
Peter Flom - Restabelecer Monica

2
@ Peter Mine veio antes de qualquer resposta; passe o mouse sobre a palavra "ontem" em cada (ou qualquer coisa que indique um tempo decorrido desde a publicação) para ver a hora exata do UTC. Acho que a resposta que você indica é uma boa resposta parcial, mas a pergunta ainda admitiria várias tomadas completamente diferentes, sem uma boa base para escolher entre elas.
Glen_b -Reinstate Monica

Respostas:


25

Este artigo de Christian (Xian) Robert e George Casella fornece um bom resumo da história do MCMC. Do artigo (a ênfase é minha).


O que pode ser razoavelmente visto como o primeiro algoritmo MCMC é o que chamamos agora de algoritmo Metropolis, publicado por Metropolis et al. (1953). Ele emana do mesmo grupo de cientistas que produziu o método Monte Carlo, a saber, os pesquisadores de Los Alamos, principalmente físicos que trabalham com física matemática e bomba atômica.


O algoritmo Metropolis foi posteriormente generalizado por Hastings (1970) e seu aluno Peskun (1973, 1981)


Embora um pouco afastado da inferência estatística no sentido clássico e baseado em técnicas anteriores usadas na Física Estatística, o artigo de referência de Geman e Geman (1984) trouxe a amostragem de Gibbs à arena da aplicação estatística. Este trabalho também é responsável pelo nome da amostra de Gibbs


Em particular, Geman e Geman (1984) influenciaram Gelfand e Smith (1990) a escrever um artigo que é o genuíno ponto de partida para o uso intensivo dos métodos MCMC pela comunidade estatística do fluxo principal . Isso despertou novos interesses nos métodos bayesianos, computação estatística, algoritmos e processos estocásticos, por meio do uso de algoritmos de computação como o amostrador Gibbs e o algoritmo Metropolis – Hastings.


É interessante notar que o artigo anterior de Tanner e Wong (1987) tinha essencialmente os mesmos ingredientes que Gelfand e Smith (1990), a saber, o fato de que simular a partir das distribuições condicionais é suficiente para simular assintoticamente a partir da articulação. ser um artigo de discussão no Journal of the American Statistical Association, mas seu impacto foi de alguma forma limitado, comparado com Gelfand e Smith (1990).


Não consegui encontrar o número de artigos de periódicos publicados ao longo do tempo, mas aqui está um gráfico do Google Ngram para o número de menções ao longo do tempo. Concorda mais ou menos com a noção de que o MCMC se tornou comum após o artigo de 1990 de Gelfand e Smith.

insira a descrição da imagem aqui


1
Obrigado! Eu consideraria 1990 a data mais importante na história do MCMC, pois quatro artigos de Alan Gelfand e Adrian Smith apareceram naquele mesmo ano nos principais periódicos de Estatística e tornaram repentinamente o conceito de uso de cadeias de Markov para simulação. Lembro-me de assistir a uma palestra de Adrian Smith em junho de 1989 em Seherbrooke (PQ), onde ele demonstrou a universalidade da ideia, mostrando um slide com algumas linhas de código (Fortran?).
Xian

12

A excelente resposta de knrumsey dá um pouco de história sobre a progressão de importantes trabalhos acadêmicos no MCMC. Um outro aspecto que vale a pena examinar é o desenvolvimento de software para facilitar o MCMC pelo usuário comum. Os métodos estatísticos são freqüentemente usados ​​principalmente por especialistas até serem implementados em software que permite ao usuário comum implementá-los sem programação. Por exemplo, o software BUGS teve seu primeiro lançamento em 1997. Isso não parece ter mudado a trajetória de crescimento no gráfico de N-Gramas, mas pode ter sido uma influência na introdução do método em uso comum entre os usuários que o encontraram. intimidador para programar suas próprias rotinas.


Huh, há uma pequena reviravolta na linha do MCMC por volta de 1997.
muru

Bem detectado - não tenho certeza se seria uma mudança grande o suficiente para ser estatisticamente significante, mas observado de qualquer maneira.
Restabelecer Monica

Estimando visualmente, se a inclinação antes de 1997 fosse mantida, teríamos visto algo como 0,000015% por volta de 2004 (mas o valor real é próximo de 0,0000225%). Isso é um aumento de 50%. Mas suponho que os números sejam muito pequenos de qualquer maneira.
muru 9/10

Talvez você esteja certo - bons olhos!
Restabeleça Monica

Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.