Perguntas com a marcação «regression»

Imagino que quanto maior o coeficiente de uma variável, maior a capacidade do modelo de "girar" nessa dimensão, proporcionando uma oportunidade maior de ajustar o ruído. Embora eu ache que tenho um senso razoável da relação entre a variação no modelo e os coeficientes grandes, não tenho uma noção tão …

33 regression  variance  linear-model  bias  regularization 

A estatística de teste para o teste Hosmer-Lemeshow (HLT) para qualidade de ajuste (GOF) de um modelo de regressão logística é definida da seguinte forma: A amostra é então dividida em deciles , D_1, D_2, \ dots, D_ {d} , por decil, um calcula as seguintes quantidades:d=10d=10d=10D1,D2,…,DdD1,D2,…,DdD_1, D_2, \dots , …

33 regression  logistic  goodness-of-fit  degrees-of-freedom  hosmer-lemeshow-test 

Regularização de Tikhonov e regressão de crista são termos frequentemente usados ​​como se fossem idênticos. É possível especificar exatamente qual é a diferença?

33 regression  terminology  regularization  ridge-regression  tikhonov-regularization 

Sou engenheiro de software aprendendo aprendizado de máquina, principalmente através dos cursos de Andrew Ng . Enquanto estudava regressão linear com regularização , encontrei termos que são confusos: Regressão com regularização L1 ou regularização L2 LAÇO Regressão de Ridge Então, minhas perguntas: A regressão com regularização L1 é exatamente igual …

33 regression  terminology  lasso  regularization  ridge-regression 

Estou tentando entender a origem das bandas de confiança em forma de curva associadas a uma regressão linear OLS e como ela se relaciona com os intervalos de confiança dos parâmetros de regressão (inclinação e interceptação), por exemplo (usando R): require(visreg) fit <- lm(Ozone ~ Solar.R,data=airquality) visreg(fit) Parece que a …

33 regression  confidence-interval 

Alguém pode recomendar uma boa exposição da teoria por trás da regressão de mínimos quadrados parciais (disponível on-line) para alguém que entende SVD e PCA? Procurei muitas fontes on-line e não encontrei nada que tivesse a combinação certa de rigor e acessibilidade. Analisei The Elements of Statistical Learning , que …

33 regression  references  regularization  svd  partial-least-squares 

Ao fazer a regressão, por exemplo, dois hiper parâmetros a serem escolhidos geralmente são a capacidade da função (por exemplo, o maior expoente de um polinômio) e a quantidade de regularização. O que me deixa confuso é por que não escolher uma função de baixa capacidade e depois ignorar qualquer …

32 regression  machine-learning  optimization  regularization  polynomial 

Acabei de encontrar o quarteto de Anscombe (quatro conjuntos de dados que têm estatísticas descritivas quase indistinguíveis, mas parecem muito diferentes quando plotados) e estou curioso para saber se existem outros conjuntos de dados mais ou menos conhecidos que foram criados para demonstrar a importância de certos aspectos de análises …

32 regression  data-visualization  dataset 

Estou ajustando um lm()modelo a um conjunto de dados que inclui indicadores para o trimestre financeiro (Q1, Q2, Q3, tornando Q4 um padrão). Usando lm(Y~., data = data), recebo a NAcomo coeficiente para o terceiro trimestre e um aviso de que uma variável foi excluída por causa de singularidades. Preciso …

32 r  regression 

Um artigo "Computando com precisão a variação de execução" em http://www.johndcook.com/standard_deviation.html mostra como calcular a média de execução, a variação e os desvios padrão. Existem algoritmos nos quais os parâmetros de um modelo de regressão linear ou logística podem ser similarmente "atualizados dinamicamente" à medida que cada novo registro de …

32 regression  logistic  online 

Estou um pouco confuso com uma palestra sobre regressão linear dada por Andrew Ng no Coursera sobre aprendizado de máquina. Lá, ele deu uma função de custo que minimiza a soma dos quadrados como: 12m∑i=1m(hθ(X(i))−Y(i))212m∑i=1m(hθ(X(i))−Y(i))2 \frac{1}{2m} \sum _{i=1}^m \left(h_\theta(X^{(i)})-Y^{(i)}\right)^2 Eu entendo de onde vem o . Eu acho que ele …

32 regression  machine-learning  loss-functions 

Para problemas de regressão, vi pessoas usando "coeficiente de determinação" (também conhecido como R ao quadrado) para executar a seleção do modelo, por exemplo, encontrar o coeficiente de penalidade apropriado para a regularização. No entanto, também é comum usar "erro ao quadrado médio" ou "erro ao quadrado médio da raiz" …

32 regression  r-squared 

Eu tenho trabalhado em um problema de regressão em que a entrada é uma imagem e o rótulo é um valor contínuo entre 80 e 350. As imagens são de alguns produtos químicos após a reação. A cor que aparece indica a concentração de outro produto químico que resta, e …

32 regression  machine-learning  neural-networks  conv-neural-network  tensorflow 

Estou tentando entender por que a saída da regressão logística dessas duas bibliotecas fornece resultados diferentes. Eu estou usando o conjunto de dados do UCLA Idre tutorial , a previsão admitcom base em gre, gpae rank. ranké tratado como variável categórica, por isso é primeiro convertido em variável dummy com …

31 regression  logistic  python  scikit-learn  statsmodels 

Estou lendo um artigo muito interessante de Sellers e Shmueli sobre modelos de regressão para dados de contagem. Perto do início (p. 944), citam McCullaugh e Nelder (1989) dizendo que a regressão binomial negativa é impopular e tem um vínculo canônico problemático. Encontrei a passagem referida e ela diz (p. …

31 regression  modeling  negative-binomial