Quando transformar variáveis ​​preditivas ao fazer regressão múltipla?

Atualmente, estou fazendo minha primeira aula de regressão linear aplicada no nível de pós-graduação e estou lutando com transformações de variáveis ​​preditivas em regressão linear múltipla. O texto que estou usando, Kutner e outros "Modelos Estatísticos Lineares Aplicados", não parece cobrir a pergunta que estou tendo. (além de sugerir que existe um método de Box-Cox para transformar múltiplos preditores).

Quando confrontados com uma variável de resposta e várias variáveis ​​preditivas, que condições se esforça para atender a cada variável preditora? Entendo que, no final das contas, estamos procurando constância da variação de erros e erros normalmente distribuídos (pelo menos nas técnicas ensinadas até agora). Tive muitos exercícios de volta, onde a solução era, por exemplo y ~ x1 + (1/x2) + log(x3), onde um ou mais preditores foram transformados.

Eu entendi o raciocínio sob regressão linear simples, pois era fácil olhar para y ~ x1 e os diagnósticos relacionados (gráficos qq de resíduos, resíduos vs. y, resíduos vs. x, etc) e testar para verificar se y ~ log ( x1) se encaixam melhor em nossas suposições.

Existe um bom lugar para começar a entender quando transformar um preditor na presença de muitos preditores?

Agradeço antecipadamente. Matt

Considero sua pergunta: como você detecta quando existem as condições que tornam apropriadas as transformações, e não quais são as condições lógicas . É sempre bom reservar análises de dados com exploração, especialmente exploração gráfica de dados. (Vários testes podem ser realizados, mas vou me concentrar na EDA gráfica aqui.)

Os gráficos de densidade do kernel são melhores que os histogramas para uma visão geral inicial da distribuição univariada de cada variável. Com várias variáveis, uma matriz de dispersão pode ser útil. Lowess também é sempre aconselhável no início. Isso lhe dará uma visão rápida e suja se os relacionamentos são aproximadamente lineares. O pacote de carro de John Fox combina utilmente estes:

library(car)
scatterplot.matrix(data)

Certifique-se de ter suas variáveis ​​como colunas. Se você tiver muitas variáveis, os gráficos individuais podem ser pequenos. Maximize a janela de plotagem e os gráficos de dispersão devem ser grandes o suficiente para selecionar os gráficos que você deseja examinar individualmente e, em seguida, criar gráficos únicos. Por exemplo,

windows()
plot(density(X[,3]))
rug(x[,3])
windows()
plot(x[,3], y)
lines(lowess(y~X[,3]))

Depois de ajustar um modelo de regressão múltipla, você ainda deve plotar e verificar seus dados, assim como na regressão linear simples. Os gráficos de QQ para resíduos são tão necessários quanto você pode fazer uma matriz de dispersão dos seus resíduos em relação aos preditores, seguindo um procedimento semelhante ao anterior.

windows()
qq.plot(model$residuals)
windows()
scatterplot.matrix(cbind(model$residuals,X))

Se algo parecer suspeito, plote-o individualmente e adicione-o abline(h=0)como um guia visual. Se você tiver uma interação, poderá criar uma variável X [, 1] * X [, 2] e examinar os resíduos com relação a isso. Da mesma forma, você pode fazer um gráfico de dispersão de resíduos vs. X [, 3] ^ 2, etc. Outros tipos de gráficos que não sejam resíduos vs. Lembre-se de que tudo isso está ignorando as outras dimensões x que não estão sendo plotadas. Se seus dados estiverem agrupados (ou seja, de um experimento), você poderá fazer gráficos parciais em vez de / além dos gráficos marginais.

Espero que ajude.