Estatísticas e Big Data

Esta pergunta é um acompanhamento ou tentativa de esclarecer uma possível confusão sobre um tópico que eu e muitos outros consideramos um pouco difícil, com relação à diferença entre AIC e BIC. Em uma resposta muito agradável de @Dave Kellen sobre este tópico ( /stats//a/767/30589 ), lemos: Sua pergunta implica …

17 model-selection  aic  bic 

Você pode fornecer um exemplo de um estimador de MLE da média que é tendenciosa? Não estou procurando um exemplo que quebre os estimadores de MLE em geral, violando as condições de regularidade. Todos os exemplos que vejo na internet referem-se à variação e não consigo encontrar nada relacionado à …

17 maximum-likelihood  mean  bias 

Eu construí um classificador de regressão logística que é muito preciso nos meus dados. Agora eu quero entender melhor por que está funcionando tão bem. Especificamente, eu gostaria de classificar quais recursos estão dando a maior contribuição (quais recursos são mais importantes) e, idealmente, quantificar quanto cada recurso está contribuindo …

17 machine-learning  logistic  feature-selection  importance 

Eu li (por exemplo, aqui ) que o núcleo Epanechnikov é ideal, pelo menos em um sentido teórico, ao fazer uma estimativa da densidade do núcleo. Se isso for verdade, por que o Gaussiano aparece com tanta frequência quanto o kernel padrão ou, em muitos casos, o único kernel, nas …

17 nonparametric  kernel-smoothing 

Pode-se executar uma regressão logit em R usando esse código: > library(MASS) > data(menarche) > glm.out = glm(cbind(Menarche, Total-Menarche) ~ Age, + family=binomial(logit), data=menarche) > coefficients(glm.out) (Intercept) Age -21.226395 1.631968 Parece que o algoritmo de otimização convergiu - há informações sobre o número das etapas do algoritmo de pontuação do …

17 r  generalized-linear-model  optimization  algorithms  logit 

Questão A variação de uma distribuição binomial negativa (NB) é sempre maior que sua média. Quando a média de uma amostra é maior que sua variância, a tentativa de ajustar os parâmetros de um RN com probabilidade máxima ou com estimativa de momento falhará (não há solução com parâmetros finitos). …

17 estimation  maximum-likelihood  negative-binomial 

Suponha que eu possua uma matriz densa de m × n , com decomposição SVD A = U S V ⊤ . Em que posso calcular o SVD da seguinte forma: .UMAUMA \textbf{A}m × nm×nm \times nA = U S V⊤.UMA=vocêSV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Se uma nova -ésima linha for adicionada a A …

17 algorithms  svd  linear-algebra  matrix-decomposition  numerics 

Qual é a diferença entre LOESS e LOWESS? Na Wikipedia , só consigo ver que LOESS é uma generalização de LOWESS. Eles têm parâmetros ligeiramente diferentes?

17 nonparametric  loess 

Estive pensando em escrever um post sobre essa interessante análise de Kleinberg (2002) que explora a dificuldade de agrupar. Kleinberg descreve três desiderata aparentemente intuitivos para uma função de agrupamento e prova que essa função não existe. Existem muitos algoritmos de cluster que satisfazem dois dos três critérios; no entanto, …

17 mathematical-statistics  clustering  intuition  hierarchical-clustering 

Li aqui que, dada uma amostra de uma distribuição contínua com o cdf , a amostra correspondente a segue uma distribuição uniforme padrão.F X U i = F X ( X i )X1, X2, . . . , XnX1,X2,...,Xn X_1,X_2,...,X_n FXFX F_X vocêEu= FX( XEu)vocêEu=FX(XEu) U_i = F_X(X_i) Eu verifiquei …

17 pdf  uniform  cdf  intuition 

Em geral, em um problema de classificação em que o objetivo é prever com precisão a associação de classe fora da amostra, quando não devo usar um classificador de conjunto? Esta questão está intimamente relacionada a: Por que nem sempre usar a aprendizagem por conjuntos? . Essa pergunta pergunta por …

17 classification  boosting  ensemble  bagging 

Alguém pode me explicar as diferenças reais entre análise de regressão e ajuste de curva (linear e não linear), com um exemplo, se possível? Parece que ambos tentam encontrar uma relação entre duas variáveis ​​(dependente versus independente) e, em seguida, determinam o parâmetro (ou coeficiente) associado aos modelos propostos. Por …

17 regression  multiple-regression  fitting  roc  curve-fitting 

Eu (aproximadamente) ouvi dizer que: ensacamento é uma técnica para reduzir a variação de um algoritmo de preditor / estimador / aprendizado. No entanto, nunca vi uma prova matemática formal dessa afirmação. Alguém sabe por que isso é matematicamente verdadeiro? Parece ser um fato amplamente aceito / conhecido, que eu …

17 machine-learning  mathematical-statistics  bagging 

Tendência central, expansão e assimetria podem ser definidas relativamente bem, pelo menos de forma intuitiva; as medidas matemáticas padrão dessas coisas também correspondem relativamente bem às nossas noções intuitivas. Mas a curtose parece ser diferente. É muito confuso e não combina bem com nenhuma intuição sobre a forma distributiva. Uma …

17 descriptive-statistics  kurtosis  teaching  l-moments 

Estou sendo solicitado a encontrar os valores-p para estatística descritiva. No entanto, entendo que os valores-p são para estatísticas de teste. Se não me engano, um valor-p é a probabilidade de observar um valor tão extremo quanto a estatística de teste se a hipótese nula for verdadeira.

17 hypothesis-testing  descriptive-statistics  inference