Perguntas com a marcação «overfitting»

Primeiro de tudo: eu sei, não há um número geral de tamanho de amostra necessário para treinar uma rede neural. Depende de muitos fatores, como complexidade da tarefa, ruído nos dados e assim por diante. E quanto mais amostras de treinamento eu tiver, melhor será minha rede. Mas eu estava …

12 neural-networks  overfitting  underdetermined 

Queria entender melhor o teste exato de Fisher, então inventei o seguinte exemplo de brinquedo, em que f e m correspondem a homens e mulheres e n e y correspondem a "consumo de refrigerante" como este: > soda_gender f m n 0 5 y 5 0 Obviamente, isso é uma …

12 fishers-exact  hypergeometric  clustering  supervised-learning  modeling  econometrics  r  regression  residuals  heteroscedasticity  independence  distributions  self-study  matlab  libsvm  self-study  conditional-probability  conditional-expectation  hypothesis-testing  self-study  multiple-comparisons  mode  statistical-significance  chi-squared  multiple-comparisons  maximum-likelihood  poisson-process  optimization  uncertainty  genetic-algorithms  bayesian  model-selection  overfitting  maximum-likelihood  optimization  approximation  r  prediction  model-evaluation  r  machine-learning  survival  neural-networks  cox-model  machine-learning  bayesian  bayesian-network  hierarchical-bayesian  pooling 

Tenho uma distribuição de valores obviamente bimodal, que procuro ajustar. Os dados podem ser ajustados bem com 2 funções normais (bimodal) ou com 3 funções normais. Além disso, há uma razão física plausível para ajustar os dados com 3. Quanto mais parâmetros forem introduzidos, mais perfeito será o ajuste, como …

11 distributions  normal-distribution  model-selection  overfitting 

Esta publicação no KDnuggets citando a publicação de John Langford afirma que a entropia e as informações mútuas quando usadas como medidas de erro podem levar ao sobreajuste. Você poderia entrar em mais detalhes sobre isso?

11 machine-learning  error  overfitting  entropy 

Hoje, nosso professor declarou em sala de aula que "não é possível adaptar demais aos classificadores lineares". Considero que isso está errado, uma vez que até os classificadores lineares podem ser sensíveis a outliers no conjunto de treinamento - por exemplo, uma margem rígida Support Vector Machine: Um único ponto …

10 classification  overfitting 

Tanto quanto eu vi, as opiniões tendem a diferir sobre isso. As melhores práticas certamente ditariam a validação cruzada (especialmente se comparar RFs com outros algoritmos no mesmo conjunto de dados). Por outro lado, a fonte original afirma que o fato de o erro OOB ser calculado durante o treinamento …

10 cross-validation  random-forest  overfitting  out-of-sample 

Eu li alguma literatura que florestas aleatórias não podem se superestimar. Embora isso pareça ótimo, parece bom demais para ser verdade. É possível que os rfs se ajustem demais?

10 random-forest  overfitting 

Entendo que podemos empregar regularização em um problema de regressão de mínimos quadrados como w∗=argminw[(y−Xw)T(y−Xw)+λ∥w∥2]w∗=argminw⁡[(y−Xw)T(y−Xw)+λ‖w‖2]\boldsymbol{w}^* = \operatorname*{argmin}_w \left[ (\mathbf y-\mathbf{Xw})^T(\boldsymbol{y}-\mathbf{Xw}) + \lambda\|\boldsymbol{w}\|^2 \right] e que esse problema tem uma solução de formulário fechado como: w^=(XTX+λI)−1XTy.w^=(XTX+λI)−1XTy.\hat{\boldsymbol{w}} = (\boldsymbol{X}^T\boldsymbol{X}+\lambda\boldsymbol{I})^{-1}\boldsymbol{X}^T\boldsymbol{y}. Vemos que na 2ª equação, a regularização está simplesmente adicionando λλ\lambda à diagonal …

10 regression  regularization  ridge-regression  overfitting  matrix-inverse 

Estou tentando entender o que é um modelo saturado. AFAIK é quando você tem tantos recursos quanto observações. Podemos dizer que um modelo saturado é um caso especial de um modelo extremamente equipado demais?

10 overfitting 

Essa pode ser uma pergunta básica: qual é a diferença entre preconceito e falta de adequação? E, analogamente, qual é a diferença entre variação e super adaptação? Os termos de cada par significam a mesma coisa? Se não, qual é a diferença?

10 variance  bias  overfitting  model-evaluation 

Isso não resulta em excesso de ajuste? Meus resultados seriam mais confiáveis ​​se eu adicionasse um procedimento de canivete ou bootstrap como parte da análise?

9 multiple-regression  bootstrap  reliability  overfitting  jackknife 

Eu tenho alguns modelos preditivos cujo desempenho eu gostaria de testar novamente (ou seja, levar meu conjunto de dados, "rebobinar" para um ponto anterior no tempo e ver como o modelo teria um desempenho prospectivo). O problema é que alguns dos meus modelos foram criados através de um processo interativo. …

9 cross-validation  modeling  outliers  splines  overfitting 

Eu tenho um modelo de regressão simples ( y = param1 * x1 + param2 * x2 ). Quando ajusto o modelo aos meus dados, encontro duas boas soluções: A solução A, parâmetros = (2,7), é melhor no conjunto de treinamento com RMSE = 2,5 MAS! Parâmetros da solução B …

9 regression  cross-validation  overfitting  sensitivity-analysis 

Eu tive uma entrevista de emprego para uma posição de ciência de dados. Durante a entrevista, perguntaram-me o que devo fazer para garantir que o modelo não seja ajustado demais. Minha primeira resposta foi usar a validação cruzada para avaliar o desempenho do modelo. No entanto, o entrevistador disse que …

9 cross-validation  regularization  overfitting 

Nos estudos de psicologia, aprendi que deveríamos usar o método de Bonferroni para ajustar o nível de significância ao testar várias hipóteses em um único conjunto de dados. Atualmente, estou trabalhando com métodos de aprendizado de máquina, como Support Vector Machines ou Random Forest para classificação. Aqui eu tenho um …

9 machine-learning  cross-validation  svm  overfitting  bonferroni