Estatísticas e Big Data model-selection

3

Justificativa empírica para a regra de erro padrão ao usar a validação cruzada

Existem estudos empíricos que justifiquem o uso da regra de erro padrão em favor da parcimônia? Obviamente, depende do processo de geração de dados, mas qualquer coisa que analise um grande conjunto de conjuntos de dados seria uma leitura muito interessante. A "regra de erro padrão" é aplicada ao selecionar …

39 cross-validation model-selection regularization

5

Valores negativos para AICc (critério de informação de Akaike corrigido)

Eu calculei o AIC e o AICc para comparar dois modelos mistos lineares gerais; Os AICs são positivos, com o modelo 1 tendo um AIC menor que o modelo 2. No entanto, os valores do AICc são ambos negativos (o modelo 1 ainda é <modelo 2). É válido usar e …

39 mixed-model model-selection aic

1

Quando a validação cruzada aninhada é realmente necessária e pode fazer uma diferença prática?

Ao usar a validação cruzada para fazer a seleção do modelo (como por exemplo, ajuste de hiperparâmetro) e avaliar o desempenho do melhor modelo, deve-se usar a validação cruzada aninhada . O loop externo é para avaliar o desempenho do modelo, e o loop interno é para selecionar o melhor …

36 cross-validation model-selection ridge-regression

7

Escolhendo variáveis a serem incluídas em um modelo de regressão linear múltipla

Atualmente, estou trabalhando para construir um modelo usando uma regressão linear múltipla. Depois de mexer no meu modelo, não tenho certeza de como determinar melhor quais variáveis manter e quais remover. Meu modelo começou com 10 preditores para o DV. Ao usar todos os 10 preditores, quatro foram considerados significativos. …

35 regression multiple-regression feature-selection modeling model-selection

3

O que significa a pontuação do Akaike Information Criterion (AIC) de um modelo?

Eu já vi algumas perguntas aqui sobre o que isso significa em termos leigos, mas estas são muito leigas para o meu propósito aqui. Estou tentando entender matematicamente o que significa a pontuação da AIC. Mas, ao mesmo tempo, não quero uma prova de rigor que me faça não ver …

34 self-study model-selection aic entropy information-theory

2

Seleção de modelos e validação cruzada: o caminho certo

Existem vários threads no CrossValidated no tópico seleção de modelo e validação cruzada. Aqui estão alguns: Validação cruzada interna x externa e seleção de modelo A melhor resposta de @ DikranMarsupial para Seleção de recursos e validação cruzada No entanto, as respostas para esses encadeamentos são bastante genéricas e destacam …

34 cross-validation model-selection

3

Como a validação cruzada supera o problema de super adaptação?

Por que um procedimento de validação cruzada supera o problema de sobreajustar um modelo?

34 regression model-selection cross-validation

6

Mineração de dados: como devo encontrar a forma funcional?

Estou curioso sobre procedimentos repetitivos que podem ser usados para descobrir a forma funcional da função y = f(A, B, C) + error_termonde minha única entrada é um conjunto de observações ( y, A, Be C). Observe que a forma funcional de fé desconhecida. Considere o seguinte conjunto de dados: …

34 regression machine-learning algorithms model-selection data-mining

1

O que são verificações preditivas posteriores e o que as torna úteis?

Entendo qual é a distribuição preditiva posterior e tenho lido sobre verificações preditivas posteriores , embora ainda não esteja claro o que ela faz. O que exatamente é a verificação preditiva posterior? Por que alguns autores dizem que a execução de verificações preditivas posteriores está "usando os dados duas vezes" …

33 bayesian model-selection posterior

5

Diretrizes da AIC na seleção de modelos

Normalmente, uso o BIC, pois entendo que ele valoriza a parcimônia mais fortemente do que o AIC. No entanto, eu decidi usar uma abordagem mais abrangente agora e gostaria de usar a AIC também. Eu sei que Raftery (1995) apresentou boas diretrizes para diferenças de BIC: 0-2 é fraco, 2-4 …

32 r model-selection references aic bic

6

A parcimônia ainda deve realmente ser o padrão-ouro?

Apenas um pensamento: Os modelos parcimoniosos sempre foram a opção padrão na seleção de modelos, mas em que grau essa abordagem está desatualizada? Estou curioso sobre o quanto nossa tendência à parcimônia é uma relíquia de um tempo de regras abac e deslizantes (ou, mais seriamente, computadores não modernos). O …

31 predictive-models model-selection model

1

Uso indevido de validação cruzada (relatório de desempenho para o melhor valor de hiperparâmetro)

Recentemente, me deparei com um artigo que propõe o uso de um classificador k-NN em um conjunto de dados específico. Os autores usaram todas as amostras de dados disponíveis para realizar a validação cruzada de dobras k para diferentes valores de k e relatam os resultados da validação cruzada da …

31 cross-validation references model-selection model-evaluation

3

É possível calcular AIC e BIC para modelos de regressão de laço?

É possível calcular valores de AIC ou BIC para modelos de regressão de laço e outros modelos regularizados em que os parâmetros estão inserindo apenas parcialmente a equação. Como se determina os graus de liberdade? Estou usando R para ajustar modelos de regressão de laço com a glmnet()função do glmnetpacote …

31 r model-selection lasso aic bic

3

se deve redimensionar o indicador / binário / preditores fictícios para o LASSO

Para o LASSO (e outros procedimentos de seleção de modelo), é crucial redimensionar os preditores. A recomendação geral que sigo é simplesmente usar uma média de 0, 1 normalização de desvio padrão para variáveis contínuas. Mas o que há com manequins? Por exemplo, alguns exemplos aplicados da mesma (excelente) escola …

30 predictive-models model-selection lasso standardization multidimensional-scaling

5

Escolhendo o melhor modelo dentre os diferentes "melhores" modelos

Como você escolhe um modelo dentre os diferentes modelos escolhidos por diferentes métodos (por exemplo, seleção anterior ou posterior)? Além disso, o que é um modelo parcimonioso?

28 regression model-selection

Perguntas com a marcação «model-selection»