Taxa de aceitação para Metropolis-Hastings> 0,5

Como é possível obter taxas de aceitação de Metropolis-Hastings perto de 1 (por exemplo, ao explorar uma distribuição unimodal com uma distribuição de proposta normal com SD muito pequeno), após o término da gravação? Eu vejo isso nas minhas próprias cadeias de MCMC, mas não entendo como isso faz sentido. Parece-me que, após atingir a taxa de aceitação da cúpula, estabilize-se em torno de valores menores que 0,5.

A taxa de aceitação depende em grande parte da distribuição da proposta. Se houver uma pequena variação, a relação das probabilidades entre o ponto atual e a proposta será necessariamente sempre próxima de 1, dando uma alta chance de aceitação. Isso ocorre apenas porque as densidades de probabilidade-alvo com as quais normalmente trabalhamos são localmente Lipschitz (um tipo de suavidade) em pequenas escalas, então a probabilidade de dois pontos próximos é semelhante (informalmente).

Se sua amostra atual estiver próxima do valor do MAP, as propostas terão menos de uma probabilidade de aceitação, mas ainda assim poderão ser muito próximas de 1.

Como observação lateral, a prática padrão é ajustar a distribuição da proposta para obter uma taxa de aceitação de 0,2-0,25. Veja aqui uma discussão sobre isso.

Um exemplo fácil de probabilidade de aceitação igual a um é ao simular a partir do alvo exato: nesse caso

Uma possível razão para sua confusão é a percepção potencial do algoritmo Metropolis-Hastings como um algoritmo de otimização. O algoritmo gasta mais iterações em regiões de destino mais altas, mas não visa o máximo. E enquanto$\pi(x^\text{MAP})\ge\pi(x)$ para todos $x$, isso não significa que valores com valores-alvo mais baixos são necessariamente rejeitados, pois os valores da proposta $q(x^\text{MAP},x)$ e $q(x,x^\text{MAP})$ também importam.