Perguntas com a marcação «regression»

Quando uso o GAM, o DF residual é (última linha do código). O que isso significa? Indo além do exemplo do GAM, em geral, o número de graus de liberdade pode ser um número não inteiro?26,626.626.6 > library(gam) > summary(gam(mpg~lo(wt),data=mtcars)) Call: gam(formula = mpg ~ lo(wt), data = mtcars) Deviance …

27 r  degrees-of-freedom  gam  machine-learning  pca  lasso  probability  self-study  bootstrap  expected-value  regression  machine-learning  linear-model  probability  simulation  random-generation  machine-learning  distributions  svm  libsvm  classification  pca  multivariate-analysis  feature-selection  archaeology  r  regression  dataset  simulation  r  regression  time-series  forecasting  predictive-models  r  mean  sem  lavaan  machine-learning  regularization  regression  conv-neural-network  convolution  classification  deep-learning  conv-neural-network  regression  categorical-data  econometrics  r  confirmatory-factor  scale-invariance  self-study  unbiased-estimator  mse  regression  residuals  sampling  random-variable  sample  probability  random-variable  convergence  r  survival  weibull  references  autocorrelation  hypothesis-testing  distributions  correlation  regression  statistical-significance  regression-coefficients  univariate  categorical-data  chi-squared  regression  machine-learning  multiple-regression  categorical-data  linear-model  pca  factor-analysis  factor-rotation  classification  scikit-learn  logistic  p-value  regression  panel-data  multilevel-analysis  variance  bootstrap  bias  probability  r  distributions  interquartile  time-series  hypothesis-testing  normal-distribution  normality-assumption  kurtosis  arima  panel-data  stata  clustered-standard-errors  machine-learning  optimization  lasso  multivariate-analysis  ancova  machine-learning  cross-validation 

L =1n∥∥y-Xβ∥∥2+ λ1 1∥ β∥1 1+ λ2∥ β∥22,eu=1 1n__y-Xβ__2+λ1 1__β__1 1+λ2__β__22,\mathcal L = \frac{1}{n}\big\lVert y - X\beta\big\rVert^2 + \lambda_1\lVert \beta\rVert_1 + \lambda_2 \lVert \beta\rVert^2_2,β^∗= ( 1 + λ2) β^.β^∗=(1 1+λ2)β^.\hat\beta^* = (1+\lambda_2)\hat\beta. Entretanto, o glmnetartigo subsequente Friedman, Hastie e Tibshirani (2010) Os caminhos de regularização para modelos lineares generalizados via …

27 regression  regularization  glmnet  elastic-net  shrinkage 

Eu estava lendo o seguinte link sobre regressão não linear SAS Não Linear . Meu entendimento ao ler a primeira seção "Regressão não-linear versus regressão linear" foi que a equação abaixo é realmente uma regressão linear, está correto? Se sim, por quê? y=b1x3+b2x2+b3x+cy=b1 1x3+b2x2+b3x+cy = b_1x^3 + b_2x^2 + b_3x …

27 regression  multiple-regression  nonlinear-regression  multicollinearity 

Talvez essa pergunta seja ingênua, mas: Se a regressão linear está intimamente relacionada ao coeficiente de correlação de Pearson, existem técnicas de regressão intimamente relacionadas aos coeficientes de correlação de Kendall e Spearman?

27 regression  correlation  pearson-r  spearman-rho  kendall-tau 

Estou refletindo sobre a discussão em torno desta questão e, em particular, o comentário de Frank Harrell de que a estimativa de variação em um modelo reduzido (ou seja, do qual várias variáveis ​​explicativas foram testadas e rejeitadas) deve usar os graus de liberdade generalizados de Ye . O professor …

27 r  regression  model-selection  regression-strategies 

Esta pergunta foi migrada do Mathematics Stack Exchange porque pode ser respondida em Validação cruzada. Migrou há 8 anos . Quando executo uma regressão linear em alguns pacotes de software (por exemplo, Mathematica), obtenho valores de p associados aos parâmetros individuais no modelo. Por exemplo, os resultados de uma regressão …

27 probability  regression 

Todas as minhas variáveis ​​são contínuas. Não há níveis. É possível ter interação entre as variáveis?

27 regression  modeling  interaction 

Li em várias referências que a estimativa de Lasso para o vetor de parâmetro de regressão BBB é equivalente ao modo posterior de BBB no qual a distribuição anterior para cada BiBiB_i é uma distribuição exponencial dupla (também conhecida como distribuição de Laplace). Eu tenho tentado provar isso, alguém pode …

27 regression  bayesian  lasso  prior  regularization 

Concluí o curso Machine Learning de Andrew Ng há cerca de um ano e agora estou escrevendo minha exploração matemática do ensino médio sobre o funcionamento da regressão logística e técnicas para otimizar o desempenho. Uma dessas técnicas é, obviamente, a regularização. O objetivo da regularização é evitar o ajuste …

27 regression  machine-learning  optimization  regularization  overfitting 

Estou tentando resolver a tarefa de regressão. Descobri que três modelos estão funcionando bem para diferentes subconjuntos de dados: LassoLARS, SVR e Gradient Tree Boosting. Percebi que quando faço previsões usando todos esses três modelos e, em seguida, faço uma tabela de 'saída verdadeira' e saídas dos meus três modelos, …

27 regression  scikit-learn  ensemble 

Estou tentando entender um artigo sobre previsão de carga elétrica, mas estou lutando com os conceitos internos, especialmente o modelo SARIMAX . Esse modelo é usado para prever a carga e usa muitos conceitos estatísticos que eu não entendo (eu sou um estudante de ciências da computação - você pode …

27 regression  time-series  arima  autoregressive  intuition 

Digamos que queremos fazer a regressão de forma simples f = x * yusando uma rede neural profunda padrão. Lembro-me de que existem novas pesquisas que indicam que NN com uma camada hiden pode aproximar qualquer função, mas tentei e sem normalização o NN não conseguiu aproximar nem mesmo essa …

27 regression  machine-learning  neural-networks  deep-learning 

Certa vez, ouvi um método de usar o laço duas vezes (como um laço duplo) em que você executa o laço no conjunto original de variáveis, digamos S1, obtém um conjunto esparso chamado S2 e depois executa o laço novamente no conjunto S2 para obter o conjunto S3 . Existe …

26 regression  lasso  regularization  shrinkage  lars 

Estou tentando executar uma regressão múltipla em R. No entanto, minha variável dependente tem o seguinte gráfico: Aqui está uma matriz de dispersão com todas as minhas variáveis ​​( WARé a variável dependente): Eu sei que preciso executar uma transformação nessa variável (e possivelmente nas variáveis ​​independentes?), Mas não tenho …

26 r  regression  multiple-regression  data-transformation 

Qual é a distribuição do coeficiente de determinação, ou R ao quadrado, , na regressão múltipla linear univariada sob a hipótese nula ?H 0 : β = 0R2R2R^2H0:β=0H0:β=0H_0:\beta=0 Como isso depende do número de preditores número de amostras ? Existe uma expressão de forma fechada para o modo desta distribuição?n …

26 regression  mathematical-statistics  r-squared  intuition