O que significa linear na regressão linear?

Em R, se eu escrever

lm(a ~ b + c + b*c) 

isso ainda seria uma regressão linear?

Como fazer outros tipos de regressão em R? Gostaria de receber alguma recomendação para livros ou tutoriais?

Linear refere-se à relação entre os parâmetros que você está estimando (por exemplo, ) e o resultado (por exemplo, ). Portanto, é linear, mas não é. Um modelo linear significa que sua estimativa do seu vetor de parâmetro pode ser gravada , em que são pesos determinados pelo seu procedimento de estimativa. Os modelos lineares podem ser resolvidos algebricamente na forma fechada, enquanto muitos modelos não lineares precisam ser resolvidos por maximização numérica usando um computador.y i y = e x β + ε y = e β x + ε β = Σ i w i y i { w i$\beta$$y_i$$y=e^x\beta+\epsilon$$y=e^\beta x + \epsilon$$\hat{\beta} = \sum_i{w_iy_i}$$\{w_i\}$

Esta postagem no minitab.com fornece uma explicação muito clara:

• Um modelo é linear quando pode ser escrito neste formato:
  • Response = constant + parameter * predictor + ... + parameter * predictor
    • Ou seja, quando cada termo (no modelo) é uma constante ou o produto de um parâmetro e uma variável preditora.
  • Então, esses dois são modelos lineares:
    • $Y = B_0 + B_1X_1$ (esta é uma linha reta)
    • $Y = B_0 + B_1X_1^2$ (Esta é uma curva)
• Se o modelo não puder ser expresso usando o formato acima, ele não será linear.
  • Exemplos de modelos não lineares:
    • X B 1$Y = B_0 +$$X_1^{B_1}$
    • $Y = B_0 \centerdot \cos (B_1 \centerdot X_1)$

Eu tomaria cuidado ao fazer isso como uma questão de "regressão linear R" versus uma questão de "regressão linear". As fórmulas em R têm regras que você pode ou não estar ciente. Por exemplo:

http://wiener.math.csi.cuny.edu/st/stRmanual/ModelFormula.html

Supondo que você esteja perguntando se a seguinte equação é linear:

a = coeff0 + (coeff1 * b) + (coeff2 * c) + (coeff3 * (b*c))

A resposta é sim, se você montar uma nova variável independente, como:

newv = b * c

Substituir a equação newv acima na equação original provavelmente se parece com o que você espera de uma equação linear:

a = coeff0 + (coeff1 * b) + (coeff2 * c) + (coeff3 * newv)

No que diz respeito às referências, o Google "r regression" ou o que você acha que pode funcionar para você.

Você pode escrever a regressão linear como uma equação de matriz (linear).

$\left[ \matrix{a_1 \\a_2 \\a_3 \\a_4 \\a_5 \\ ... \\ a_n} \right] = \left[ \matrix{b_1 & c_1 & b_1*c_1 \\ b_2 & c_2 & b_2*c_2 \\b_3 & c_3 & b_3*c_3 \\b_4 & c_4 & b_4*c_4 \\b_5 & c_5 & b_5*c_5 \\ &...& \\ b_n & c_n & b_n*c_n } \right] \times \left[\matrix{\alpha_b & \alpha_c & \alpha_{b*c}} \right] + \left[ \matrix{\epsilon_1 \\\epsilon_2 \\\epsilon_3 \\\epsilon_4 \\\epsilon_5 \\ ... \\ \epsilon_n} \right]$

ou se você recolher isto:

$\mathbf{a} = \alpha_b \mathbf{b} + \alpha_c \mathbf{c} + \alpha_{b*c} \mathbf{b*c} + \mathbf{\epsilon}$

Essa regressão linear é equivalente a encontrar a combinação linear de vetores , e mais próxima do vetor .$\mathbf{b}$$\mathbf{c}$$\mathbf{b*c}$$\mathbf{a}$

(Isso também tem uma interpretação geométrica como encontrar a projeção de no intervalo dos vetores , e . Para um problema com dois vetores de coluna com três medições, isso ainda pode ser desenhado como uma figura, como mostrado aqui: http://www.math.brown.edu/~banchoff/gc/linalg/linalg.html )b c b ∗ $\mathbf{a}$$\mathbf{b}$$\mathbf{c}$$\mathbf{b*c}$

Compreender esse conceito também é importante na regressão não linear. Por exemplo, é muito mais fácil resolver que porque a primeira parametrização permite resolver os e coeficientes com as técnicas de regressão linear. y = u ( e c ( t - v ) + e d ( t - v ) ) a $y=a e^{ct} + b e^{dt}$$y=u(e^{c(t-v)}+e^{d(t-v)})$$a$$b$