Perguntas com a marcação «fisher-scoring»

Por que o método de Newton para otimização da regressão logística é chamado de mínimos quadrados re-ponderados iterativos? Não me parece claro porque a perda logística e a perda de mínimos quadrados são coisas completamente diferentes.

18 logistic  generalized-linear-model  optimization  irls  fisher-scoring 

Estou curioso para saber por que tratamos o GLMS adequado como se eles fossem algum problema especial de otimização. São eles? Parece-me que eles são apenas probabilidade máxima, e que anotamos a probabilidade e então ... nós a maximizamos! Então, por que usamos a pontuação de Fisher em vez de …

16 generalized-linear-model  optimization  fisher-scoring 

Estou tentando entender a diferença entre a Newton-Raphsontécnica e a Fisher scoringtécnica calculando a primeira iteração para cada método de uma Bernoulliamostra. (Eu sei que, neste caso, posso calcular explicitamente e imediatamente πm l eπmeue\pi_{mle} mas quero fazê-lo iterativamente apenas para entender e ver como cada método converge). Suponha que …

8 maximum-likelihood  fisher-information  fisher-scoring 

Estou tentando seguir a revisão de Princeton da teoria da probabilidade . Eles definem Fisher’s score functioncomo a primeira derivada da função log-verossimilhança e dizem que a pontuação é um vetor aleatório. Por exemplo, para a distribuição geométrica: u(π)=n(1π−y¯1−π)u(π)=n(1π−y¯1−π) u(\pi) = n\left(\frac{1}{\pi} - \frac{\bar{y}}{1-\pi} \right) E eu posso ver que …

8 likelihood  geometric-distribution  fisher-scoring