Perguntas com a marcação «least-squares»

Estou tentando ajustar uma regressão para explicar o número de homicídios em cada distrito de uma cidade. Embora eu saiba que meus dados seguem uma distribuição Poisson, tentei ajustar um OLS como este: l o g( y+ 1 ) = α + βX+ ϵeuog(y+1)=α+βX+ϵlog(y+1) = \alpha + \beta X + …

18 regression  least-squares  poisson-regression 

De Uma Introdução à Aprendizagem Estatística de James et al., A estimativa de validação cruzada de saída única (LOOCV) é definida por que .cv( N )= 1n∑i = 1nMSEEucv(n)=1n∑Eu=1nMSEEu\text{CV}_{(n)} = \dfrac{1}{n}\sum\limits_{i=1}^{n}\text{MSE}_iMSEEu= ( yEu- y^Eu)2MSEEu=(yEu-y^Eu)2\text{MSE}_i = (y_i-\hat{y}_i)^2 Sem prova, a equação (5.2) afirma que, para mínimos quadrados ou regressão polinomial (se …

18 regression  self-study  cross-validation  least-squares 

A impressão que tive, com base em vários artigos, livros e artigos que li, é que a maneira recomendada de ajustar uma distribuição de probabilidade em um conjunto de dados é usando a estimativa de máxima verossimilhança (MLE). No entanto, como físico, uma maneira mais intuitiva é ajustar apenas o …

18 distributions  maximum-likelihood  least-squares  heteroscedasticity  fitting 

Eu vi essa lista aqui e não podia acreditar que havia tantas maneiras de resolver mínimos quadrados. As "equações normais" na Wikipedia pareciam ser um caminho bastante direto: α^β^=y¯−β^x¯,=∑ni=1(xi−x¯)(yi−y¯)∑ni=1(xi−x¯)2α^=y¯−β^x¯,β^=∑i=1n(xi−x¯)(yi−y¯)∑i=1n(xi−x¯)2 {\displaystyle {\begin{aligned}{\hat {\alpha }}&={\bar {y}}-{\hat {\beta }}\,{\bar {x}},\\{\hat {\beta }}&={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}\end{aligned}}} Então, por que não usá-los? …

17 regression  least-squares  scikit-learn 

Eu tenho uma pergunta sobre o viés variável omitido na regressão logística e linear. Digamos que eu omita algumas variáveis ​​de um modelo de regressão linear. Finja que essas variáveis ​​omitidas não estão correlacionadas com as variáveis ​​que incluí no meu modelo. Essas variáveis ​​omitidas não influenciam os coeficientes no …

17 regression  logistic  least-squares  bias 

Eu queria saber se existe uma relação entre e um teste-F.R2R2R^2 Normalmente, R2=∑(Y^t−Y¯)2/T−1∑(Yt−Y¯)2/T−1R2=∑(Y^t−Y¯)2/T−1∑(Yt−Y¯)2/T−1R^2=\frac {\sum (\hat Y_t - \bar Y)^2 / T-1} {\sum( Y_t - \bar Y)^2 / T-1} e mede a intensidade da relação linear na regressão. Um teste F apenas prova uma hipótese. Existe uma relação entre R2R2R^2 e …

17 regression  hypothesis-testing  least-squares  goodness-of-fit 

Considere um problema de regressão OLS padrão : Eu tenho matrizes e \ X e quero encontrar \ B para minimizar L = \ | \ Y- \ X \ B \ | ^ 2. A solução é dada por \ hat \ B = \ argmin_ \ B \ …

16 regression  least-squares  ridge-regression 

Na regressão de mínimos quadrados parciais (PLSR) ou modelagem de equações estruturais de mínimos quadrados parciais (PLS-SEM), a que se refere o termo "parcial"?

16 multiple-regression  least-squares  terminology  sem  partial-least-squares 

Não tenho certeza se normalizar é a palavra correta a ser usada aqui, mas tentarei ilustrar o que estou tentando perguntar. O estimador usado aqui é de mínimos quadrados. Suponha que você tem y=β0+β1x1y=β0+β1x1y=\beta_0+\beta_1x_1 , você pode centralizá-lo em torno da média de y=β′0+β1x′1y=β0′+β1x1′y=\beta_0'+\beta_1x_1' onde β′0=β0+β1x¯1β0′=β0+β1x¯1\beta_0'=\beta_0+\beta_1\bar x_1 e x′1=x−x¯x1′=x−x¯x_1'=x-\bar x …

16 regression  self-study  least-squares  regression-coefficients 

Eu tenho usado IRLS (mínimos quadrados ponderados) iterativamente para minimizar as funções do seguinte formulário, J(m)=∑Ni=1ρ(|xi−m|)J(m)=∑i=1Nρ(|xi−m|)J(m) = \sum_{i=1}^{N} \rho \left(\left| x_i - m \right|\right) onde é o número de instâncias de x_i \ in \ mathbb {R} , m \ in \ mathbb {R} é a estimativa robusta que eu …

16 estimation  least-squares  robust  irls 

Este link da Wikipedia lista uma série de técnicas para detectar a heterocedasticidade dos resíduos de OLS. Eu gostaria de aprender qual técnica prática é mais eficiente na detecção de regiões afetadas pela heterocedasticidade. Por exemplo, aqui a região central do gráfico OLS 'Residuals vs Fitted' parece ter uma variação …

16 regression  least-squares  heteroscedasticity 

Eu sou completamente novo nisso, então espero que você me perdoe se a pergunta for ingênua. (Contexto: estou aprendendo econometria com o livro "Econometria e Métodos" de Davidson & MacKinnon , e eles parecem não explicar isso; também observei o livro de otimização de Luenberger que lida com projeções em …

16 regression  least-squares 

Hoje, eu estava brincando com um pequeno conjunto de dados e realizei uma regressão OLS simples que esperava falhar devido à perfeita multicolinearidade. No entanto, não. Isso implica que meu entendimento da multicolinearidade está errado. Minha pergunta é: onde estou errado? Eu acho que posso mostrar que uma das minhas …

15 multiple-regression  least-squares  multicollinearity 

Para um modelo linear, a solução OLS fornece o melhor estimador linear e imparcial para os parâmetros. É claro que podemos negociar um viés por uma variação menor, por exemplo, regressão de crista. Mas minha pergunta é sobre não ter viés. Existem outros estimadores que são um tanto usados, que …

15 regression  least-squares  linear  unbiased-estimator  blue 

Estou fazendo uma apresentação sobre linhas de montagem. Eu tenho uma função linear simples, . Estou tentando obter pontos de dados dispersos que posso colocar em um gráfico de dispersão que manterá minha linha de melhor ajuste na mesma equação.y=1x+by=1x+by=1x+b Eu adoraria aprender essa técnica no R ou no Excel …

15 r  regression  least-squares  excel