Perguntas com a marcação «regression»

Estou interessado em regressão com redes neurais. Redes neurais com zero nós ocultos + conexões de camada de salto são modelos lineares. E as mesmas redes neurais, mas com nós ocultos? Eu estou querendo saber qual seria o papel das conexões skip-layer? Intuitivamente, eu diria que, se você incluir as …

26 regression  machine-learning  neural-networks  deep-learning 

Gostaria de saber se existe algum algoritmo que possa fazer classificação e regressão ao mesmo tempo. Por exemplo, eu gostaria de deixar o algoritmo aprender um classificador e, ao mesmo tempo, em cada rótulo, ele também aprende um alvo contínuo. Assim, para cada exemplo de treinamento, ele possui um rótulo …

25 regression  machine-learning  classification  predictive-models  finite-mixture-model 

Suponha que eu estou correndo uma regressão . Por seleccionando top principais componentes do , é que o modelo de manter o seu poder preditivo em ?k X YY∼XY∼XY \sim XkkkXXXYYY Eu entendo que a partir de-redução de dimensionalidade / ponto de recurso de seleção de vista, se são os …

25 regression  classification  pca  dimensionality-reduction  regularization 

Tenho várias perguntas sobre a penalidade de cordilheira no contexto de mínimos quadrados: βr i dge= ( λ ID+ X′X)- 1X′yβridge=(λID+X′X)−1X′y\beta_{ridge} = (\lambda I_D + X'X)^{-1}X'y 1) A expressão sugere que a matriz de covariância de X é reduzida em direção a uma matriz diagonal, o que significa que (assumindo …

25 regression  pca  regularization  ridge-regression 

Em um modelo de regressão simples, y=β0+β1x+ε,y=β0+β1x+ε, y = \beta_0 + \beta_1 x + \varepsilon, os estimadores OLS pβ^OLS0β^0OLS\hat{\beta}_0^{OLS} e ββ^OLS1β^1OLS\hat{\beta}_1^{OLS} estão correlacionados. A fórmula para a correlação entre os dois estimadores é (se a derivou corretamente): Corr(β^OLS0,β^OLS1)=−∑ni=1xin−−√∑ni=1x2i−−−−−−−√.Corr⁡(β^0OLS,β^1OLS)=−∑i=1nxin∑i=1nxi2. \operatorname{Corr}(\hat{\beta}_0^{OLS},\hat{\beta}_1^{OLS}) = \frac{-\sum_{i=1}^{n}x_i}{\sqrt{n} \sqrt{\sum_{i=1}^{n}x_i^2} }. Questões: Qual é a explicação intuitiva para …

25 regression  least-squares  estimators 

Minha variável dependente mostrada abaixo não se encaixa em nenhuma distribuição de estoque que eu conheça. A regressão linear produz resíduos não-normais, inclinados à direita, que se relacionam com o Y previsto de uma maneira estranha (2º gráfico). Alguma sugestão para transformações ou outras maneiras de obter resultados mais válidos …

25 regression  multiple-regression  data-transformation  censoring 

Seguindo minha pergunta para o OLS , pergunto-me: que gráficos de diagnóstico existem para a regressão quantílica? (e há R implementação deles?) Uma rápida pesquisa no Google já veio com o gráfico de worms (sobre o qual nunca ouvi falar antes), e ficaria feliz em saber de mais métodos que …

25 r  regression  diagnostic  quantile-regression  gamlss 

Desejo entender melhor os prós / contras do uso de splines loess ou suavizantes para suavizar alguma curva. Outra variação da minha pergunta é se existe uma maneira de construir um spline de suavização de uma maneira que produza os mesmos resultados que usar loess. Qualquer referência ou insight é …

25 regression  splines  loess 

Recentemente, comecei a estudar aprendizado de máquina, mas não compreendi a intuição por trás da regressão logística . A seguir, são apresentados os fatos sobre a regressão logística. Como base para a hipótese, usamos a função sigmóide . Entendo por que é uma escolha correta, mas por que é a …

25 regression  machine-learning  logistic 

Em uma regressão, o termo de interação apaga os dois efeitos diretos relacionados. Abandono a interação ou relato o resultado? A interação não fazia parte da hipótese original.

25 regression  interaction 

Estou um pouco confuso se uma variável independente (também chamada de preditor ou recurso) em um modelo estatístico, por exemplo, o na regressão linear , é uma variável aleatória?Y = β 0 + β 1 XXXXY=β0+β1XY=β0 0+β1XY=\beta_0+\beta_1 X

25 regression  random-variable  experiment-design  predictor 

Todos os exemplos de SVMs estão relacionados à classificação. Não entendo como um SVM para regressão (regressor de vetor de suporte) pode ser usado na regressão. Pelo meu entendimento, um SVM maximiza a margem entre duas classes para encontrar o hiperplano ideal. Como isso possivelmente funcionaria em um problema de …

25 regression  svm 

O que é um estudo de ablação? E existe uma maneira sistemática de realizá-lo? Por exemplo, eu tenho preditores em uma regressão linear que chamarei de modelo.nnn Como vou realizar um estudo de ablação para isso? Quais métricas devo usar? Uma fonte ou livro abrangente seria apreciado.

25 regression  machine-learning  neural-networks 

O aprendizado de máquina (ML) usa fortemente técnicas de regressão linear e logística. Ele também se baseia em técnicas de engenharia recurso ( feature transform, kernel, etc.). Porque é que nada sobre variable transformation(por exemplo power transformation) mencionados no ML? (Por exemplo, eu nunca ouvi falar em criar raiz ou …

24 regression  machine-learning  data-transformation 

Atualmente, estou usando o AnomalyDetection do Twitter em R: https://github.com/twitter/AnomalyDetection . Esse algoritmo fornece detecção de anomalia de séries temporais para dados com sazonalidade. Pergunta: existem outros algoritmos semelhantes a este (controlar a sazonalidade não importa)? Estou tentando pontuar o maior número possível de algoritmos de séries temporais nos meus …

24 r  regression  time-series  anomaly-detection