Perguntas com a marcação «ridge-regression»

Se eu gerar muitos modelos aleatórios (sem considerar os dados) em uma configuração de regressão simplesmente atribuindo aleatoriamente valores de coeficientes e, em seguida, avaliando esses modelos no conjunto de dados com uma métrica de erro e escolhendo o melhor modelo com base nessa métrica de erro, eu ainda executaria …

7 cross-validation  overfitting  ridge-regression 

Se bem entendi, o glmnet usa descida cíclica de coordenadas não apenas para redes de laço e elástico, mas também para regressão de Ridge. Por que ele usa esse algoritmo, que às vezes fornece resultados ligeiramente imprecisos, quando existe de fato uma solução fácil de formulário fechado disponível? Muito obrigado …

7 lasso  regularization  ridge-regression  glmnet  elastic-net 

Ao passar da normalização para na regressão linear, devo esperar ver mais viés ou mais variação? Observe que o viés é um sinal de falta de ajuste e a variação é um sinal de falta de ajuste. Assuma a constante λ.eu2L2L^2eu1 1L1L^1 Estou procurando uma regra geral aqui. Se não …

7 variance  lasso  bias  regularization  ridge-regression 

A estimativa de regressão tradicional da crista é β^ridge=(XTX+λI)−1XTYβ^ridge=(XTX+λI)−1XTY \hat{\beta}_{ridge} = (X^TX+\lambda I)^{-1} X^T Y que vem da adição do termo de penalidade λ||β||22λ||β||22\lambda ||\beta||^2_2. Tenho lutado para encontrar literatura sobre a regularização em direção a um valor específico . Em particular, observei um modelo de regressão de cumeeira que …

7 regression  references  least-squares  ridge-regression 

Na regressão linear do cume e do laço, um passo importante é escolher o parâmetro de ajuste lambda, geralmente eu uso a pesquisa de grade na escala de log de -6-> 4, funciona bem no cume, mas no laço, devo levar em conta a ordem da magnitude da saída y? …

7 regression  cross-validation  lasso  regularization  ridge-regression