Qual algoritmo adaptável do Metropolis Hastings é implementado no pacote R MHadaptive?

Existem várias versões dos algoritmos adaptáveis do Metropolis Hastings. Um é implementado na função Metro_Hastingsdo Rpacote MHadaptive, veja aqui . A referência listada lá, Spiegelhalter et al. (2002), infelizmente, não contém uma descrição de nenhum algoritmo adaptativo, até onde posso ver. No entanto, o Metro_Hastingsalgoritmo funciona muito bem na amostragem da distribuição posterior do modelo que considero, e é por isso que quero entender seus detalhes.

Eu fiz engenharia reversa do algoritmo um pouco. Alguém reconhece esse algoritmo adaptativo de MH? Isto é o que faz:

Seja a densidade alvo. Inicialize . $q$ $\theta_{0,i=0},\Sigma$

Para iterações faça: $n$ $\{i = 1,...,n\}$

Propor . $\theta_1 \sim N(\theta_1|\theta_{0,i-1}, \Sigma)$
Aceite com probabilidade . Se aceito, defina . Se rejeitar: . $\theta_1$ $A=\min\{1,q(\theta_1)/q(\theta_{0,i})\}$ $\theta_{0,i}:=\theta_1$ $\theta_{0,i}:=\theta_{0,i-1}$

Se $i=j$ , onde $j$ um vector definido de modo que todo o elemento de $j>x$ (padrão $x=100$ ), há uma distância de $y$ iterações entre os elementos (padrão $y=20$ ), e nenhum elemento $j>z$ (padrão $z=0.75n$ ), faça:

Selecione $\tilde{\theta}=\{\theta_{0k},...,\theta_{0,i} \}$ (padrão $k=0.5i$ ).
Atualização: $\Sigma:=S(\tilde{\theta})$ onde $S$ o estimador de probabilidade máxima da matriz de covariância de variâncias de $\tilde{\theta}$ assumindo normalidade multivariada.

Os passos 1 e 2 são MH padrão. As etapas 3 e 4 são as adaptações que ocorrem nas etapas e usam as iterações anteriores para atualizar na matriz de covariância das iterações anteriores. $j$ $j-k$ $\Sigma$

r mcmc metropolis-hastings

— tomka
fonte

desculpe pela pergunta boba, mas você tentou entrar em contato com o proprietário do pacote (primeiro) e David Spiegelhalter (segundo)? O proprietário do pacote deixou a McGill há alguns anos atrás, portanto, é perfeitamente possível que o endereço de email no pacote não seja mais monitorado. No entanto, com apenas um pouco de fu do Google, você pode descobrir facilmente os contatos atuais (é claro que não estou compartilhando aqui porque não sei se ele gostaria). Se você não puder entrar em contato com ele, David Spiegelhalter é um cara muito legal, e acho que ele responderia se você enviasse um e-mail para ele.

— DeltaIV 30/10

@ DeltaIV Entrei em contato com ele, mas não recebi uma resposta. Não considerei escrever para Spiegelhalter, pois ele é apenas citado (imho incorretamente) e não tenho certeza se ele sabe sobre o pacote. Entrei em contato com o autor no endereço de e-mail indicado na embalagem. Parece que ainda está ativo e, portanto, não considerei encontrá-lo em outro lugar. Vou tentar isso.

— Tomka

Concordo que é improvável que a Spiegelhalter conheça os pacotes: foi por isso que sugeri entrar em contato com o proprietário do pacote. No entanto, ele pode saber sobre o algoritmo que você descreve (ou talvez não, se ele foi citado incorretamente como você suspeita). Se você conseguir obter uma resposta para sua pergunta, informe-nos. Estou curioso.

— DeltaIV 30/10

@DeltaIV Não consigo identificar um endereço de e-mail na instituição atual. Provavelmente vou precisar deixar assim, a menos que você possa me indicar.

— Tomka

claro, vamos discutir isso no chat . Espero que esteja claro que quero ajudar, estava preocupado com a privacidade do proprietário do pacote.

— DeltaIV 30/10

Sua descrição soa como o algoritmo adaptativo de Haario et al (1999) . A ideia é de fato atualizar a matriz de covariância da distribuição da proposta usando um número fixo de amostras recentes.

Observe que o algoritmo descrito em Haario et al (1999) tem bom desempenho, mas NÃO é ergódico. Haario et al (2001) descreveram um algoritmo aprimorado que é ergódico. A idéia é atualizar a matriz de covariância da distribuição da proposta usando todas as amostras anteriores.

— Heisenberg
fonte