Cálculo da probabilidade logarítmica para determinado MLE (cadeias de Markov)

Atualmente, estou trabalhando com cadeias de Markov e calculei a Estimativa de Máxima Verossimilhança usando probabilidades de transição, conforme sugerido por várias fontes (ou seja, número de transições de a para b dividido pelo número de transições gerais de a para outros nós).

Agora eu quero calcular a probabilidade de log do MLE.

maximum-likelihood markov-process likelihood

— fsociety
fonte

Você já calculou a estimativa de probabilidade máxima das probabilidades de transição e agora deseja calcular a probabilidade de log do que exatamente?

— Nick

Seja um caminho da cadeia de markov e seja a probabilidade de observar o caminho quando é o verdadeiro valor do parâmetro (também conhecido como a função de probabilidade para ). Usando a definição de probabilidade condicional, sabemos $\{ X_i \}_{i=1}^{T}$ $P_{\theta}(X_1, ..., X_T)$ $\theta$ $\theta$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}, . . ., X_{1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Como essa é uma cadeia de markov, sabemos que , então isso simplifica isso para $P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Agora, se você repetir essa mesma lógica vezes, obtém $T$

P_{θ} (X_{1}, . . ., X_{T}) = \prod_{i = 1}^{T} P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$

onde deve ser interpretado como o estado inicial do processo. Os termos do lado direito são apenas elementos da matriz de transição. Como foi a probabilidade de log que você solicitou, a resposta final é: $X_0$

eu (θ) = \sum_{Eu = 1 1}^{T} registro (P_{θ} (X_{Eu} | X_{Eu - 1 1}))

${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$

Essa é a probabilidade de uma única cadeia de markov - se o seu conjunto de dados incluir várias cadeias de markov (independentes), a probabilidade total será uma soma dos termos deste formulário.

— Macro
fonte

Uau, muito obrigado pela resposta. Nesse caso, é a probabilidade de "transição" obtida do MLE, certo?

P_{θ}

$P_{\theta}$

— Fsociety

@ ph_singer, você é muito bem-vindo. é a probabilidade de passar do estado para , considerando o valor do parâmetro . Se você não impôs nenhuma estrutura à matriz de transição (que é o que parece), então apenas indica o vetor de probabilidades de transição (e os MLEs são apenas as proporções da amostra, conforme indicado corretamente na declaração da pergunta), então sim : será apenas a proporção da amostra de movimentos do estado que terminaram no estado .

P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_i$

θ

$\theta$

θ

$\theta$

P_{{\hat{θ}}_{M L E}} (X_{i} | X_{i - 1})

$P_{\hat{\theta}_{{\rm MLE}}}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_{i}$

— Macro

Obrigado novamente! Apenas mais uma pergunta: se eu usar outro pedido (por exemplo, k = 2), como esse processo funcionaria?

— fsociety

Você pode esclarecer o que você quer dizer com "ordem"?

— Macro

(+1) O OP provavelmente significa para denotar um MC de segunda ordem , ou seja, dependendo dos dois estados anteriores e não apenas o mais recente .

k = 2

$k=2$

X_{i - 1}, X_{i - 2}

$X_{i-1},X_{i-2}$

X_{i - 1}

$X_{i-1}$

— cardeal