Perguntas com a marcação «lars»

A temporada de férias me deu a oportunidade de me aconchegar ao lado do fogo com Os elementos do aprendizado estatístico . Vindo de uma perspectiva econométrica (freqüentista), estou tendo problemas para entender os usos de métodos de encolhimento, como regressão de cume, laço e regressão de menor ângulo (LAR). …

61 lasso  ridge-regression  shrinkage  lars 

Desculpe se esta pergunta é um pouco básica. Eu estou procurando usar a seleção de variáveis ​​do LASSO para um modelo de regressão linear múltipla em R. Eu tenho 15 preditores, um dos quais é categórico (isso causará um problema?). Após definir e , utilizo os seguintes comandos:yxxxyyy model = …

39 feature-selection  lasso  glmnet  lars 

Certa vez, ouvi um método de usar o laço duas vezes (como um laço duplo) em que você executa o laço no conjunto original de variáveis, digamos S1, obtém um conjunto esparso chamado S2 e depois executa o laço novamente no conjunto S2 para obter o conjunto S3 . Existe …

26 regression  lasso  regularization  shrinkage  lars 

Fiquei me perguntando, por que os métodos de seleção de modelos LASSO e LARS são tão populares, mesmo que sejam basicamente apenas variações da seleção direta passo a passo (e, portanto, sofram da dependência do caminho)? Da mesma forma, por que os métodos General to Specific (GETS) para seleção de …

15 feature-selection  model-selection  lasso  stepwise-regression  lars 

Para minha pesquisa atual, estou usando o método Lasso através do pacote glmnet em R em uma variável dependente binomial. No glmnet, o lambda ideal é encontrado via validação cruzada e os modelos resultantes podem ser comparados com várias medidas, por exemplo, erro de classificação incorreta ou desvio. Minha pergunta: …

12 cross-validation  lasso  glmnet  deviance  lars 

Eu quero fazer o seguinte: 1) regressão OLS (sem termo de penalização) para obter coeficientes beta ; j representa as variáveis ​​usadas para regredir. Eu faço isso porb∗jbj∗b_{j}^{*}jjj lm.model = lm(y~ 0 + x) betas = coefficients(lm.model) 2) Na regressão do laço com um termo de penalização, os critérios de …

11 r  regression  glmnet  lars 

Em seu artigo seminal 'Regressão a Menor Ângulo' , Efron et al descrevem uma modificação simples do algoritmo LARS que permite calcular caminhos completos de regularização do LASSO. Eu implementei essa variante com êxito e geralmente plotei o caminho de saída em relação ao número de etapas (iterações sucessivas do …

9 regression  lasso  regularization  lars