Perguntas com a marcação «maximum-likelihood»

Existem alguns métodos para estimativa de parâmetros por aí. MLE, UMVUE, MoM, teoria da decisão e outros parecem ter um caso bastante lógico do motivo pelo qual são úteis para a estimativa de parâmetros. Existe um método melhor do que os outros, ou é apenas uma questão de como definimos …

12 estimation  mathematical-statistics  maximum-likelihood  method-of-moments  umvue 

Alguém poderia me dizer quais são as condições de regularidade para a distribuição assintótica do teste da Razão de Verossimilhança? Em todo lugar que olho, está escrito 'Sob as condições de regularidade' ou 'sob as regularidades probabilísticas'. Quais são exatamente as condições? Que o primeiro e o segundo derivativos de …

12 maximum-likelihood  likelihood-ratio  asymptotics 

Queria entender melhor o teste exato de Fisher, então inventei o seguinte exemplo de brinquedo, em que f e m correspondem a homens e mulheres e n e y correspondem a "consumo de refrigerante" como este: > soda_gender f m n 0 5 y 5 0 Obviamente, isso é uma …

12 fishers-exact  hypergeometric  clustering  supervised-learning  modeling  econometrics  r  regression  residuals  heteroscedasticity  independence  distributions  self-study  matlab  libsvm  self-study  conditional-probability  conditional-expectation  hypothesis-testing  self-study  multiple-comparisons  mode  statistical-significance  chi-squared  multiple-comparisons  maximum-likelihood  poisson-process  optimization  uncertainty  genetic-algorithms  bayesian  model-selection  overfitting  maximum-likelihood  optimization  approximation  r  prediction  model-evaluation  r  machine-learning  survival  neural-networks  cox-model  machine-learning  bayesian  bayesian-network  hierarchical-bayesian  pooling 

No teorema bayesiano, , e do livro que estou lendo, é chamado de probabilidade , mas presumo que seja apenas a probabilidade condicional de dado , certo? p(x|y)p ( y| x)= p ( x | y) p ( y)p ( x )p(y|x)=p(x|y)p(y)p(x)p(y|x) = \frac{p(x|y)p(y)}{p(x)}p ( x | y)p(x|y)p(x|y)yxxxyyy A estimativa …

12 bayesian  maximum-likelihood 

Existe uma regra prática ou mesmo alguma maneira de dizer qual o tamanho de uma amostra para estimar um modelo com um determinado número de parâmetros? Então, por exemplo, se eu quiser estimar uma regressão de mínimos quadrados com 5 parâmetros, qual deve ser o tamanho da amostra? Importa qual …

12 sample-size  estimation  least-squares  maximum-likelihood 

Eu entendo que, dado um conjunto de observações independentes o Estimador de Máxima Verossimilhança (ou, equivalentemente, o MAP com flat / uniform anterior) que identifica os parâmetros \ mathbf {θ} que produzem a distribuição do modelo p_ {model} \ esquerda (\, \ cdot \,; \ mathbf {θ} \ right) que …

12 maximum-likelihood  deep-learning  cross-entropy 

Estou lendo PRML e não entendo a imagem. Poderia, por favor, dar algumas dicas para entender a imagem e por que o MLE de variação em uma distribuição gaussiana é tendencioso? 1,55 fórmula: fórmula 1,56 σ 2 M L E =1μML E= 1N∑n = 1NxnμMLE=1N∑n=1Nxn \mu_{MLE}=\frac{1}{N} \sum_{n=1}^N x_n σ2ML E= …

12 machine-learning  self-study  maximum-likelihood 

Como posso construir um intervalo de confiança assintótica para um parâmetro real, iniciando no MLE para esse parâmetro?

12 confidence-interval  mathematical-statistics  maximum-likelihood  inference 

É possível aplicar o procedimento MLE usual à distribuição do triângulo? - Estou tentando, mas pareço estar bloqueado em uma etapa ou outra da matemática pela maneira como a distribuição é definida. Estou tentando usar o fato de conhecer o número de amostras acima e abaixo de c (sem saber …

12 distributions  mathematical-statistics  maximum-likelihood  triangular-distribution 

Enquanto estou estudando a estimativa de máxima verossimilhança, para fazer inferência na estimativa de máxima verossimilhança, precisamos conhecer a variação. Para descobrir a variação, preciso conhecer o Rao Lower Limound do Cramer, que se parece com uma Matriz Hessiana com Segunda Derivação na curvatura. Estou meio confuso para definir a …

12 machine-learning  mathematical-statistics  maximum-likelihood  data-mining 

Eu tenho uma função probabilidade para a probabilidade dos meus dados dado alguns parâmetros do modelo , o que eu gostaria de estimar. Assumindo anteriores planos nos parâmetros, a probabilidade é proporcional à probabilidade posterior. Eu uso um método MCMC para provar essa probabilidade.L (d| θ)eu(d|θ)\mathcal{L}(d | \theta)dddθ ∈ RNθ∈RN\theta …

11 bayesian  maximum-likelihood  optimization  inference  mcmc 

Recentemente, tomei consciência de que métodos "sem probabilidade" são analisados ​​na literatura. No entanto, não sei ao certo o que significa um método de inferência ou otimização sem probabilidade . No aprendizado de máquina, o objetivo geralmente é maximizar a probabilidade de alguns parâmetros se ajustarem a uma função, por …

11 machine-learning  deep-learning  maximum-likelihood  generative-models  abc 

O título diz tudo. Entendo que os mínimos quadrados e a máxima verossimilhança fornecerão o mesmo resultado para os coeficientes de regressão se os erros do modelo forem normalmente distribuídos. Mas, o que acontece se os erros não forem normalmente distribuídos? Por que os dois métodos não são mais equivalentes?

11 regression  normal-distribution  maximum-likelihood  least-squares  error 

Estou lendo o artigo da teoria de Doug Bates no pacote lme4 de R para entender melhor os detalhes dos modelos mistos e me deparei com um resultado intrigante que eu gostaria de entender melhor sobre o uso da máxima verossimilhança restrita (REML) para estimar a variação . Na seção …

11 maximum-likelihood  mixed-model  unbiased-estimator  hierarchical-bayesian  reml 

Eu estava lendo o livro The Identification Problem In Econometrics, de Franklin M. Fisher, e fiquei confuso com a parte que ele demonstra a identificação visualizando a função de probabilidade. O problema pode ser simplificado como: Para uma regressão , em que , e são os parâmetros. Suponha que tenha …

11 mathematical-statistics  maximum-likelihood  geometry