O MCMC está sem memória?


18

Estou tentando entender o que a cadeia de Markov Monte Carlo (MCMC) é da página da Wikipedia em francês. Eles dizem "que os métodos de Monte Carlo da cadeia de Markov consistem em gerar um vetor xi apenas a partir dos dados vetoriais xi1 ; portanto, é um processo" sem memória ""

Os métodos de Monte-Carlo, por cadeias de Markov, consistentes em gerar um vetor xi exclusividade a partir do domínio do vetor xi1 ; c'est donc un processus «sans mémoire»,

Eu não entendo por que eles dizem que o MCMC está "sem memória" , na medida em que usamos informações dos dados vetoriais xi1 para gerar xi .


3
Porque você não precisa "lembrar" nada sobre o processo, exceto o último estado da cadeia. Eu acho que você ainda precisa de memória, mas é apenas uma informação.
user2974951 4/02

não é "lembrado"; é a entrada explícita. xi1
chepner

Respostas:


28

A característica definidora de uma cadeia de Markov é que a distribuição condicional de seu valor presente condicional a valores passados ​​depende apenas do valor anterior . Portanto, toda cadeia de Markov é "sem memória" na medida em que apenas o valor anterior afeta a probabilidade condicional atual e todos os estados anteriores são "esquecidos". (Você está certo que não fica completamente sem memória - afinal, a distribuição condicional do valor presente depende do valor anterior.) Isso é verdade para o MCMC e também para qualquer outra cadeia de Markov.


9
Se você der um passo adiante, poderá dizer que a distribuição condicional de seus valores futuros depende de valores passados ​​e presentes, depende apenas do valor presente e, nesse sentido, a memória do passado não é necessária desde que a posição atual seja conhecida
Henry

Exceto que você sempre pode ajustar o espaço de estado para armazenar qualquer quantidade finita de informações sobre o passado. Ainda é markoviano, por exemplo, depender dos seus últimos dez estados, pois você pode expandir o espaço de estados para incluir essas informações no "estado anterior".
David Richerby

15

Embora tenhamos a resposta correta, gostaria de expandir um pouco a semântica intuitiva da declaração. Imagine que redefinimos nossos índices para gerar o vetor xEu+1 partir do vetor xEu . Agora, o momento Eu é metaforicamente visto como "o presente", e todos os vetores próximos "anteriores a" xEu são irrelevantes para o cálculo do próximo no futuro.

Com essa simples renumeração, ela se torna "completamente sem memória" no sentido intuitivo - isto é, não importa de maneira alguma como o sistema Markov se tornou em seu estado atual . Somente o estado presente determina estados futuros , sem usar nenhuma informação de estados passados ( xEu-n ).

Um ponto talvez mais sutil: a palavra "memória" também está sendo usada porque isso também significa que você não pode inferir estados passados ​​do estado atual. Quando você está em xEu , não sabe o que aconteceu "antes" durante xEu-n . É o oposto de sistemas que codificam o conhecimento de estados passados ​​no estado atual.


5

Você acorda. Você não tem idéia de como chegou aonde está. Você olha em volta e decide o que fazer a seguir com base apenas nas informações que você tem disponível naquele momento. Essa é essencialmente a mesma situação do que está acontecendo no MCMC.

xEuxEu-1xEu-1xEu+1xEu


2
Vamos chamá-lo de método da ressaca
IggyPass

@ ThePassenger Ligue para o que quiser. Apenas por favor, passe a aspirina.
Dason 05/02
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.