Gráficos residuais: por que plotagem versus valores ajustados, valores

No contexto da regressão OLS, entendo que um gráfico residual (vs valores ajustados) é convencionalmente visto para testar a variação constante e avaliar a especificação do modelo. Por que os resíduos são plotados contra os ajustes, e não os valores de ? Como as informações diferem desses dois gráficos?$Y$

Estou trabalhando em um modelo que produziu os seguintes gráficos residuais:

Portanto, o gráfico versus os valores ajustados parece bom à primeira vista, mas o segundo gráfico contra o valor tem um padrão. Estou me perguntando por que um padrão tão pronunciado também não se manifestaria no gráfico residual versus ajuste ....$Y$

Não estou procurando ajuda para diagnosticar problemas com o modelo, mas apenas tentando entender as diferenças (geralmente) entre (1) gráfico residual versus ajuste e (2) gráfico residual vs$Y$

Pelo que vale, tenho certeza de que o padrão de erro no segundo gráfico é devido a variáveis ​​omitidas que influenciam o DV. Atualmente, estou trabalhando na obtenção desses dados, o que, espero, ajudará no ajuste e nas especificações gerais. Estou trabalhando com dados imobiliários: DV = Preço de venda. IVs: pés quadrados da casa, # vagas na garagem, ano de construção, ano de construção . $^2$

Por construção, o termo de erro em um modelo OLS não está correlacionado com os valores observados das covariáveis ​​X. Isso sempre será verdadeiro para os dados observados, mesmo que o modelo esteja produzindo estimativas tendenciosas que não refletem os valores verdadeiros de um parâmetro porque uma suposição do modelo é violada (como um problema de variável omitida ou um problema de causalidade reversa). Os valores previstos são inteiramente uma função dessas covariáveis, portanto, também não são correlacionados com o termo de erro. Assim, quando você plota resíduos contra os valores previstos, eles devem sempre parecer aleatórios, porque na verdade não são correlacionados pela construção do estimador. Por outro lado, é inteiramente possível (e de fato provável) que o termo de erro de um modelo seja correlacionado com Y na prática. Por exemplo, com uma variável X dicotômica, quanto mais Y verdadeiro for deE(Y | X = 1)ou E(Y | X = 0)então, quanto maior o residual, será. Aqui está a mesma intuição com dados simulados em R, onde sabemos que o modelo é imparcial porque controlamos o processo de geração de dados:

rm(list=ls())
set.seed(21391209)

trueSd <- 10
trueA <- 5
trueB <- as.matrix(c(3,5,-1,0))
sampleSize <- 100

# create independent x-values
x1 <- rnorm(n=sampleSize, mean = 0, sd = 4)
x2 <-  rnorm(n=sampleSize, mean = 5, sd = 10)
x3 <- 3 + x1 * 4 + x2 * 2 + rnorm(n=sampleSize, mean = 0, sd = 10)
x4 <- -50 + x1 * 7 + x2 * .5 + x3 * 2  + rnorm(n=sampleSize, mean = 0, sd = 20)
X = as.matrix(cbind(x1,x2,x3,x4))


# create dependent values according to a + bx + N(0,sd)
Y <-  trueA +  X %*%  trueB  +rnorm(n=sampleSize,mean=0,sd=trueSd)


df = as.data.frame(cbind(Y,X))
colnames(df) <- c("y", "x1", "x2", "x3", "x4")
ols = lm(y~x1+x2+x3+x4, data = df)
y_hat = predict(ols, df)
error = Y - y_hat
cor(y_hat, error) #Zero
cor(Y, error) #Not Zero

Obtemos o mesmo resultado da correlação zero com um modelo tendencioso, por exemplo, se omitirmos x1.

ols2 = lm(y~x2+x3+x4, data = df)
y_hat2 = predict(ols2, df)
error2 = Y - y_hat2
cor(y_hat2, error2) #Still zero
cor(Y, error2) #Not Zero

Dois fatos que suponho que você está feliz comigo apenas afirmando:

$y_i = \hat{y}_i+\hat{e}_i$

$\text{Cov}(\hat{y}_i,\hat{e}_i)=0$

Então:

$\text{Cov}(y_i,\hat{e}_i)=\text{Cov}(\hat{y}_i+\hat{e}_i,\hat{e}_i)$

$\qquad=\text{Cov}(\hat{y}_i,\hat{e}_i) +\text{Cov}(\hat{e}_i,\hat{e}_i)$

$\qquad=0 +\sigma^2_e$

$\qquad=\sigma^2_e$

Portanto, embora o valor ajustado não esteja correlacionado com o residual, a observação é .

Com efeito, isso ocorre porque a observação e o residual estão relacionados ao termo do erro.

Isso geralmente torna um pouco mais difícil o uso da plotagem residual para fins de diagnóstico.