Perguntas com a marcação «maximum-likelihood»

Como posso estimar intervalos de confiança de 95% usando a criação de perfil para parâmetros estimados maximizando uma função de probabilidade de log usando optim em R? Eu sei que posso estimar assintoticamente a matriz de covariância invertendo o hessiano , mas estou preocupado que meus dados não atendam às …

9 r  confidence-interval  maximum-likelihood  optimization  profile-likelihood 

Suponha que tenhamos um modelo linear que atenda a todas as premissas de regressão padrão (Gauss-Markov). Estamos interessados ​​em . θ = 1 / β 1yEu= β0 0+ β1 1xEu+ ϵEuyi=β0+β1xi+ϵiy_i = \beta_0 + \beta_1 x_i + \epsilon_iθ = 1 / β1 1θ=1/β1\theta = 1/\beta_1 Pergunta 1: Quais suposições são …

9 regression  distributions  maximum-likelihood  bootstrap 

Eu preciso fazer inferência sobre um parâmetro positivo . Para acomodar a positividade, reparametrizei . Usando a rotina do MLE, calculei a estimativa de pontos e se para . A propriedade invariância do MLE me fornece diretamente uma estimativa de pontos para , mas não sei como calcular se para …

9 maximum-likelihood  standard-error  delta-method 

Atualmente, estou estudando sobre regressão logística. Mas estou ficando paralisado no cálculo da interceptação ( ) e do coeficiente ( ). Eu tenho procurado pela Internet, mas só recebo tutoriais usando o Microsoft Excel ou funções internas do R. Ouvi dizer que isso pode ser resolvido pela Máxima Verossimilhança, mas …

9 regression  machine-learning  logistic  maximum-likelihood 

Suponha que substituamos a função de perda da regressão logística (que normalmente é de probabilidade logarítmica) pelo MSE. Ou seja, ainda o log odds ratio seja uma função linear dos parâmetros, mas minimize a soma das diferenças quadráticas entre a probabilidade estimada e o resultado (codificado como 0/1): registrop1 - …

9 logistic  maximum-likelihood  unbiased-estimator  mse 

Estou com dificuldades para implementar o estimador de probabilidade máxima para um processo multivariado de Hawkes (HP). Especificamente, enquanto a expressão analítica para uma função de probabilidade de log de um HP univariado pode ser facilmente encontrada on-line (por exemplo, Ozaki, 1979), parece haver versões diferentes (inconsistentes ou equivalentes?) Da …

9 maximum-likelihood  stochastic-processes  likelihood 

Considere-se uma resposta y e matriz de dados X . Suponha que eu esteja criando um modelo do formulário - y ~ g (X, )θθ\theta (g () pode ser qualquer função de X e )θθ\theta Agora, para estimar usando o método de máxima verossimilhança (ML), eu poderia ir em frente …

9 estimation  maximum-likelihood  optimization 

Há uma afirmação de que maximizar a probabilidade é equivalente a minimizar a entropia cruzada. Existe alguma prova para esta afirmação?

9 machine-learning  mathematical-statistics  maximum-likelihood  cross-entropy 

Em "Aprendizado de máquina: uma perspectiva probabilística" de Kevin Murphy, capítulo 3.2, o autor demonstra o aprendizado do conceito bayesiano em um exemplo chamado "jogo de números": Depois de observar amostras de , queremos escolha uma hipótese que melhor descreva a regra que gerou as amostras. Por exemplo "números pares" …

8 self-study  bayesian  maximum-likelihood  convergence 

Essa pergunta parece fundamental o suficiente para que eu esteja convencido de que foi respondida aqui em algum lugar, mas não a encontrei. Entendo que, se a variável dependente em uma regressão é normalmente distribuída, a probabilidade máxima e os mínimos quadrados comuns produzem as mesmas estimativas de parâmetro. Quando …

8 regression  maximum-likelihood  least-squares  blue 

Eu vi a seguinte justificativa para o teste de Wald da hipótese nula para um parâmetro escalar . Quando θ n é o MTE para θ estimada a partir de uma amostra independente de tamanho n , sob a hipótese nula temos √ θH0:θ=θ0H0:θ=θ0H_0: \theta = \theta_0θθ\thetaθ^nθ^n\hat{\theta}_nθθ\thetannnna distribuição comon→∞, ondei(θ0)é …

8 hypothesis-testing  maximum-likelihood 

Estou tentando entender a diferença entre a Newton-Raphsontécnica e a Fisher scoringtécnica calculando a primeira iteração para cada método de uma Bernoulliamostra. (Eu sei que, neste caso, posso calcular explicitamente e imediatamente πm l eπmeue\pi_{mle} mas quero fazê-lo iterativamente apenas para entender e ver como cada método converge). Suponha que …

8 maximum-likelihood  fisher-information  fisher-scoring 

Recebi uma tabela de e , que são tais que o número de indica um quantidade de filhos que todos têm.x=(0,1,2,3,4,5,6)x=(0,1,2,3,4,5,6)x=(0,1,2,3,4,5,6)y=(3062,587,284,103,33,4,2)y=(3062,587,284,103,33,4,2)y=(3062,587,284,103,33,4,2)xixix_iyiyiy_i Me pediram para ajustar uma distribuição de Poisson a isso. O que significa ajustar uma distribuição de Poisson a isso? Aqui, p.8: http://www.stats.ox.ac.uk/~marchini/teaching/L5/L5.notes.pdf diz-se que o ajuste de Poisson …

8 self-study  distributions  maximum-likelihood  fitting 

Em um modelo de equações estruturais, geralmente se usa o estimador de ML. No caso em que as variáveis ​​não são normais multivariadas, o ML pode ser usado? Muitas vezes, os indicadores com os quais você está disponível para trabalhar não são normais multivariados. Não tenho certeza de como proceder …

8 maximum-likelihood  sem  normality-assumption  multivariate-normal 

Descobri que, para um modelo de regressão linear simples, o OLS e o método de máxima verossimilhança (assumindo a distribuição Normal) fornecem a mesma saída (valores de parâmetros). A partir disso, podemos dizer que o OLS também faz suposições implícitas sobre a distribuição Normal ou vice-versa? Não estou interessado em …

8 regression  normal-distribution  maximum-likelihood  least-squares