Estou lendo sobre o MCMC adaptável (veja, por exemplo, o Capítulo 4 do Manual da Cadeia de Markov Monte Carlo , ed. Brooks et al., 2011; e também Andrieu & Thoms, 2008 ).
O principal resultado de Roberts e Rosenthal (2007) é que, se o esquema de adaptação satisfizer a condição de desaparecimento da adaptação (mais alguma outra tecnicidade), o MCMC adaptativo é ergódico em qualquer esquema. Por exemplo, a fuga de adaptação pode ser facilmente obtida adaptando o operador de transição na iteração com probabilidade , com .
Esse resultado é (a posteriori) intuitivo, assintoticamente. Como a quantidade de adaptação tende a zero, eventualmente não atrapalha a ergodicidade. Minha preocupação é o que acontece com o tempo finito .
Como sabemos que a adaptação não está atrapalhando a ergodicidade em um determinado tempo finito e que um amostrador está amostrando a partir da distribuição correta? Se faz algum sentido, quanto esforço deve ser feito para garantir que a adaptação precoce não influencie as cadeias?
Os profissionais de campo confiam no MCMC adaptável? A razão pela qual estou perguntando é porque vi muitos métodos recentes que tentam incorporar a adaptação de outras maneiras mais complexas que respeitam a ergodicidade, como métodos de regeneração ou de conjunto (ou seja, é legítimo escolher uma transição operador que depende do estado de outras cadeias paralelas). Como alternativa, a adaptação é realizada apenas durante a queima, como em Stan , mas não em tempo de execução. Todos esses esforços me sugerem que o MCMC adaptável, de acordo com Roberts e Rosenthal (que seria incrivelmente simples de implementar), não é considerado confiável; mas talvez haja outras razões.
E implementações específicas, como Metropolis-Hastings adaptável ( Haario et al. 2001 )?
Referências
- Rosenthal, JS (2011). Distribuições ideais de propostas e MCMC adaptável. Manual da Cadeia de Markov Monte Carlo , 93-112.
- Andrieu, C., & Thoms, J. (2008) . Um tutorial sobre MCMC adaptável. Estatística e Computação , 18 (4), 343-373.
- Roberts, GO; e Rosenthal, JS (2007) . Acoplamento e ergodicidade de algoritmos adaptativos de Monte Carlo em cadeia de Markov. Jornal de probabilidade aplicada , 458-475.
- Haario, H., Saksman, E., e Tamminen, J. (2001) . Um algoritmo adaptável do Metropolis. Bernoulli , 223-242.