Perguntas com a marcação «lasso»

Se eu tiver uma matriz de design , em que é o número de observações da dimensão , qual é a complexidade da solução para com LASSO, wrt e ? Acho que a resposta deve se referir a como uma iteração do LASSO é escalonada com esses parâmetros, e não …

10 optimization  lasso  regularization  time-complexity 

Estive recentemente em algumas conversas sobre estatísticas sobre o Lasso (regularização) e um ponto que continua surgindo é que não entendemos realmente por que o Lasso funciona ou por que funciona tão bem. Gostaria de saber a que esta declaração se refere. Obviamente, eu entendo por que o Lasso funciona …

10 machine-learning  lasso  regularization 

[Uma pergunta semelhante foi feita aqui sem respostas] Eu ajustei um modelo de regressão logística com regularização L1 (regressão logística Lasso) e gostaria de testar os coeficientes ajustados quanto à significância e obter seus valores-p. Sei que os testes de Wald (por exemplo) são uma opção para testar o significado …

10 logistic  statistical-significance  regression-coefficients  lasso 

Eu estou querendo saber como abordar adequadamente o treinamento e o teste de um modelo LASSO usando glmnet no R? Especificamente, estou pensando em como fazer isso, se a falta de um conjunto de dados de teste externo exigir que eu use a validação cruzada (ou outra abordagem semelhante) para …

10 r  cross-validation  glmnet  lasso 

Na minha aula de aprendizado de máquina, aprendemos sobre como a regressão LASSO é muito boa para executar a seleção de recursos, uma vez que faz uso da regularização .l1l1l_1 Minha pergunta: as pessoas normalmente usam o modelo LASSO apenas para fazer a seleção de recursos (e depois despejam esses …

10 feature-selection  lasso  regression-strategies 

Minha situação: tamanho pequeno da amostra: 116 variável de resultado binário lista longa de variáveis ​​explicativas: 44 variáveis ​​explicativas não vieram do alto da minha cabeça; sua escolha foi baseada na literatura. a maioria dos casos na amostra e a maioria das variáveis ​​têm valores ausentes. Abordagem da seleção de …

10 r  spss  lasso  data-imputation 

Eu obtive três modelos reduzidos de um modelo completo original usando seleção para a frente eliminação para trás Técnica de penalização L1 (LASSO) Para os modelos obtidos usando seleção direta / eliminação reversa, obtive a estimativa validada cruzada do erro de previsão usando o CVlmpacote DAAGdisponível em R. Para o …

10 cross-validation  model-selection  lasso  stepwise-regression 

Eu estava lendo este artigo relacionado à rede elástica. Eles dizem que usam rede elástica porque, se usarmos o Lasso, tende a selecionar apenas um preditor entre os preditores altamente correlacionados. Mas não é isso que queremos. Quero dizer, isso nos salva dos problemas da multicolinearidade, não é? Alguma sugestão …

10 regression  lasso  elastic-net 

Estou procurando uma resposta intuitiva por que um modelo GLM LASSO seleciona um preditor específico de um grupo de modelos altamente correlacionados e por que o faz de maneira diferente da melhor seleção de recurso de subconjunto. A partir da geometria do LASSO mostrada na Figura 2 em Tibshirani 1996 …

10 feature-selection  lasso 

Estou ajustando um modelo linear em R usando glmnet. O modelo original (não regularizado) foi ajustado usando lme não tinha um termo constante (ou seja, estava na forma lm(y~0+x1+x2,data)). glmnetleva uma matriz de preditores e um vetor de respostas. Eu tenho lido a glmnetdocumentação e não encontro menção ao termo …

10 r  regression  lasso 

Como executar regressão não negativa da crista? Laço não negativo está disponível em scikit-learn, mas para cume, não posso impor a não-negatividade de betas e, de fato, estou obtendo coeficientes negativos. Alguém sabe por que isso é? Além disso, posso implementar cume em termos de mínimos quadrados regulares? Movi isso …

10 regression  lasso  regularization  ridge-regression 

Sei que isso prejudicaria a inferência estatística, mas estou realmente preocupado apenas em chegar o mais próximo possível de um modelo preciso. Eu tenho uma variável de resultado dicotômica, com um grande conjunto de preditores dicotômicos. Penso que gostaria de tentar usar o LASSO para selecionar quais variáveis ​​devo incluir …

10 model-selection  lasso  logit 

Eu tenho um conjunto de dados com cerca de 5.000 recursos / covariáveis ​​frequentemente correlacionados e uma resposta binária. Os dados foram dados para mim, eu não os coletei. Uso Lasso e aumento de gradiente para construir modelos. Eu uso a validação cruzada iterada e aninhada. Relato os maiores coeficientes …

9 machine-learning  multiple-comparisons  regression-coefficients  lasso  high-dimensional 

Estou ciente de que é prática comum padronizar os recursos para regressão de cordões e laços, no entanto, seria mais prático normalizar os recursos em uma escala (0,1) como alternativa à padronização do escore z para esses métodos de regressão?

9 normalization  lasso  standardization  ridge-regression 

Estou tentando criar um modelo reduzido para prever muitas variáveis ​​dependentes (DV) (~ 450) que são altamente correlacionadas. Minhas variáveis ​​independentes (IV) também são numerosas (~ 2000) e altamente correlacionadas. Se eu usar o laço para selecionar um modelo reduzido para cada saída individualmente, não tenho a garantia de obter …

9 r  lasso  multivariate-regression