Confusão relacionada à normalização de dados

Estou tentando aprender um modelo de regressão linear. No entanto, tenho alguma confusão relacionada à normalização dos dados. Normalizei os recursos / preditores para zero média e variação de unidade. Preciso fazer o mesmo para o alvo. Se sim, por quê?

regression multiple-regression normalization

— user34790
fonte

Por que você normalizou os recursos / preditores?

— Peter Flom - Restabelece Monica

Aliás, acho que "padronizar" é um termo melhor para isso.

— Scortchi - Restabelece Monica

Normalizar o alvo em regressão linear não importa. Na regressão linear, seu ajuste será da forma Quando os preditores estão centralizados, o termo constante sempre será a média do . Portanto, se você centralizar o antes de executar uma regressão, obterá , mas todos os seus outros coeficientes permanecerão inalterados.

{\hat{y}}_{Eu} = {uma}_{0 0} + uma \cdot x_{Eu} .

$\hat{y}_i = a_0 + a \cdot x_i.$

x_{i}

$x_i$

a_{0}

$a_0$

y_{i}

$y_i$

y_{i}

$y_i$

a_{0} = 0

$a_0 = 0$

(Dito isto, normalizar os preditores - como você está fazendo atualmente - é uma boa idéia).

— Stefan Wager
fonte

Por que normalizar os preditores é uma boa idéia?

— Scortchi - Restabelece Monica

@Stefan. Sim, quando centralizo os preditores, recebo o termo constante como a média de y. Mas eu não entendi por que isso se torna ruim. Você pode me dizer a matemática por trás disso?

a_{0}

$a_0$

— usar o seguinte comando

@ Scortchi A normalização dos preditores não é necessária, mas pode facilitar a interpretação dos coeficientes da regressão: Após a normalização, os grandes coeficientes correspondem a preditores importantes. Além disso, sem normalização, os coeficientes dos termos de interação podem ser seriamente enganosos. Dito isto, a normalização não afetará as previsões que você obtém do seu modelo; portanto, a normalização só importa se você pretende interpretar os coeficientes na regressão.

— Stefan Wager

@ user34790 A matemática é elaborada em pmean.com/10/LeastSquares.html

— Stefan Wager

Eu acho que teoricamente isso não importa, mas numericamente importa. Dê uma olhada nesta resposta.

https://stats.stackexchange.com/a/111997/57240

— Abhinav
fonte