Perguntas com a marcação «expectation-maximization»

Existem alternativas rápidas para o algoritmo EM para aprender modelos com variáveis ​​latentes (especialmente pLSA)? Eu estou bem em sacrificar a precisão em favor da velocidade.

13 machine-learning  optimization  expectation-maximization  lsa 

Digamos que tenho uma população de 50 milhões de coisas únicas e colho 10 milhões de amostras (com substituição) ... O primeiro gráfico anexado mostra quantas vezes eu coleciono a mesma "coisa", o que é relativamente raro como o população é maior que minha amostra. No entanto, se minha população …

13 r  sampling  expectation-maximization 

Estou tentando separar dois grupos de valores de um único conjunto de dados. Eu posso assumir que uma das populações está normalmente distribuída e tem pelo menos metade do tamanho da amostra. Os valores do segundo são mais baixos ou mais altos que os valores do primeiro (a distribuição é …

13 dataset  outliers  expectation-maximization 

Eu tenho algumas perguntas conceituais simples que gostaria de esclarecer sobre o MLE (Estimativa de Máxima Verossimilhança) e qual o vínculo que ele tem, se houver, com o EM (Maximização de Expectativas). Pelo que entendi, se alguém disser "Usamos o MLE", isso significa automaticamente que eles têm um modelo explícito …

12 estimation  maximum-likelihood  expectation-maximization 

Suponha que eu tenha um conjunto de observações univariadas independentes e identicamente distribuídas duas hipóteses sobre como x foi gerado:xxxxxx : x é extraído de uma única distribuição gaussiana com média e variância desconhecidas.H0 0H0 0H_0xxx : x é extraído de uma mistura de dois gaussianos com média desconhecida, variância …

11 hypothesis-testing  normal-distribution  expectation-maximization 

Quais são os benefícios de atribuir certos valores iniciais às probabilidades de transição em um modelo de Markov oculto? Eventualmente, o sistema os aprenderá; então, qual é o sentido de fornecer valores que não sejam aleatórios? O algoritmo subjacente faz alguma diferença como Baum – Welch? Se eu conhecer as …

11 machine-learning  expectation-maximization  hidden-markov-model 

O modelo de regressão de Poisson inflado com zero é definido para uma amostra por e assume ainda que os parâmetros e atendem(y1,…,yn)(y1,…,yn)(y_1,\ldots,y_n)Yi={0kwith probability pi+(1−pi)e−λiwith probability (1−pi)e−λiλki/k!Yi={0with probability pi+(1−pi)e−λikwith probability (1−pi)e−λiλik/k! Y_i = \begin{cases} 0 & \text{with probability} \ p_i+(1-p_i)e^{-\lambda_i}\\ k & \text{with probability} \ (1-p_i)e^{-\lambda_i} \lambda_{i}^{k}/k! \end{cases}λ=(λ1,…,λn)λ=(λ1,…,λn)\mathbf{\lambda} = (\lambda_1, …

10 generalized-linear-model  maximum-likelihood  poisson-distribution  expectation-maximization  latent-variable 

Alguém pode esclarecer como os modelos de Markov ocultos estão relacionados à maximização de expectativas? Passei por muitos links, mas não consegui ter uma visão clara. Obrigado!

10 markov-process  expectation-maximization  hidden-markov-model 

Estou tentando implementar um algoritmo EM para o seguinte modelo de análise fatorial; Wj=μ+Baj+ejforj=1,…,nWj=μ+Baj+ejforj=1,…,nW_j = \mu+B a_j+e_j \quad\text{for}\quad j=1,\ldots,n onde é um vetor aleatório p-dimensional, é um vetor q-dimensional de variáveis ​​latentes e é uma matriz de parâmetros pxq.a j BWjWjW_jajaja_jBBB Como resultado de outras suposições usadas para o modelo, …

10 factor-analysis  expectation-maximization 

Matematicamente, muitas vezes é visto que expressões e algoritmos para Expectation Maximization (EM) geralmente são mais simples para modelos mistos, mas parece que quase tudo (se não tudo) que pode ser resolvido com EM também pode ser resolvido com MLE (por, digamos, o método Newton-Raphson, para expressões que não estão …

10 mixed-model  maximum-likelihood  expectation-maximization 

Em esta questão populares , alta resposta upvoted faz MLE e Baum Welch separar na montagem HMM. Para problemas de treinamento, podemos usar os três algoritmos a seguir: MLE (estimativa de máxima verossimilhança), treinamento em Viterbi (NÃO confunda com decodificação em Viterbi), Baum Welch = algoritmo de avanço / retrocesso …

9 hidden-markov-model  expectation-maximization 

A questão é baseada no artigo intitulado: Reconstrução de imagens em tomografia óptica difusa usando o modelo de transporte-difusão radiativa acoplada Link para Download Os autores aplicam EM algoritmo com l1l1l_1 sparsity regularização de um vector desconhecida μμ\mu para estimar os pixels de uma imagem. O modelo é dado por …

9 self-study  bayesian  maximum-likelihood  expectation-maximization  moving-average 

Atualmente, estou aprendendo modelos bayesianos hierárquicos usando JAGS de R e também pymc usando Python ( "Métodos Bayesianos para Hackers" ). Posso obter alguma intuição neste post : "você terminará com uma pilha de números que parece" como se "você tivesse conseguido, de alguma maneira, colher amostras independentes da complicada …

9 bayesian  mcmc  expectation-maximization 

Estou estudando o modelo Gaussian Mixture e me proponho a essa pergunta. Suponha que os dados subjacentes sejam gerados a partir de uma mistura de distribuição Gaussiana e cada um deles tenha um vetor médio μ k ∈ R p , onde 1 ≤ k ≤ K e cada um …

9 self-study  expectation-maximization  gaussian-mixture  consistency 

Eu tenho um modelo de mistura no qual desejo encontrar o estimador de probabilidade máxima de um dado conjunto de dados e um conjunto de dados parcialmente observados . Eu implementei a etapa E (calculando a expectativa de z dado x e os parâmetros atuais \ theta ^ k ) …

9 maximum-likelihood  mixture  expectation-maximization