O que r, r ao quadrado e o desvio padrão residual nos dizem sobre uma relação linear?


13

Pouco histórico
Estou trabalhando na interpretação da análise de regressão, mas fico realmente confuso sobre o significado de r, r ao quadrado e desvio padrão residual. Conheço as definições:

Caracterizações

r mede a força e a direção de uma relação linear entre duas variáveis ​​em um gráfico de dispersão

O quadrado R é uma medida estatística de quão próximos os dados estão da linha de regressão ajustada.

O desvio padrão residual é um termo estatístico usado para descrever o desvio padrão de pontos formados em torno de uma função linear e é uma estimativa da precisão da variável dependente que está sendo medida. ( Não sei quais são as unidades, qualquer informação sobre as unidades aqui seria útil )

(fontes: aqui )

Pergunta
Embora eu "compreenda" as caracterizações, compreendo como esses termos se esforçam para tirar uma conclusão sobre o conjunto de dados. Vou inserir um pequeno exemplo aqui, talvez isso pode servir como um guia para responder a minha pergunta ( se sentir livre para usar um exemplo de seu próprio!)

Exemplo
Esta não é uma questão howework, no entanto Busquei no meu livro para obter um exemplo simples (o conjunto de dados atual que estou analisando é muito complexo e grande para mostrar aqui)

Vinte parcelas, cada uma com 10 x 4 metros, foram escolhidas aleatoriamente em um grande campo de milho. Para cada parcela, foram observadas a densidade da planta (número de plantas na parcela) e o peso médio da espiga (gm de grão por espiga). Os resultados estão apresentados na tabela a seguir:
(fonte: Estatísticas para as ciências da vida )

╔═══════════════╦════════════╦══╗
║ Platn density ║ Cob weight ║  ║
╠═══════════════╬════════════╬══╣
║           137 ║        212 ║  ║
║           107 ║        241 ║  ║
║           132 ║        215 ║  ║
║           135 ║        225 ║  ║
║           115 ║        250 ║  ║
║           103 ║        241 ║  ║
║           102 ║        237 ║  ║
║            65 ║        282 ║  ║
║           149 ║        206 ║  ║
║            85 ║        246 ║  ║
║           173 ║        194 ║  ║
║           124 ║        241 ║  ║
║           157 ║        196 ║  ║
║           184 ║        193 ║  ║
║           112 ║        224 ║  ║
║            80 ║        257 ║  ║
║           165 ║        200 ║  ║
║           160 ║        190 ║  ║
║           157 ║        208 ║  ║
║           119 ║        224 ║  ║
╚═══════════════╩════════════╩══╝

Primeiro vou fazer uma dispersão de visualizar os dados: Então eu posso calcular r, R 2 e o desvio padrão residual. primeiro o teste de correlação:
insira a descrição da imagem aqui

    Pearson's product-moment correlation

data:  X and Y
t = -11.885, df = 18, p-value = 5.889e-10
alternative hypothesis: true correlation is not equal to 0
95 percent confidence interval:
 -0.9770972 -0.8560421
sample estimates:
       cor 
-0.9417954 

e segundo, um resumo da linha de regressão:

Residuals:
    Min      1Q  Median      3Q     Max 
-11.666  -6.346  -1.439   5.049  16.496 

Coefficients:
             Estimate Std. Error t value Pr(>|t|)    
(Intercept) 316.37619    7.99950   39.55  < 2e-16 ***
X            -0.72063    0.06063  -11.88 5.89e-10 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 8.619 on 18 degrees of freedom
Multiple R-squared:  0.887, Adjusted R-squared:  0.8807 
F-statistic: 141.3 on 1 and 18 DF,  p-value: 5.889e-10

Portanto, com base neste teste: r = -0.9417954, R ao quadrado: 0.887e erro padrão residual: o 8.619 que esses valores nos dizem sobre o conjunto de dados? (veja a pergunta )


3
Vale a pena notar que o que você chama de "definições" são apenas caracterizações casuais e , como tal, podem ser enganosas, dependendo de como elas são interpretadas e aplicadas. As definições reais são quantitativas e precisas.
— whuber

Obrigado por apontar que eu, as fontes que usei chamaram essas definições, no entanto, sem "caracterizações" de contexto provavelmente seriam melhores, vou mudar isso!
— KingBoomie

Peças: o quadrado R é geralmente explicado como a proporção de variação explicada pelos preditores, portanto, próximo a 1 é bom. As unidades do desvio padrão residual devem ser as unidades dos seus resíduos, que são as unidades da sua variável de resposta.
— alistaire

Obrigado! @alistaire realmente isso faz sentido hahah porque nós comparamos o valor y de pontos originais com os valores y dos pontos previstos
— KingBoomie

Você deve plotar os resíduos contra o previsto, conforme sugerido por David em sua resposta.
— HelloWorld

Respostas:


5

Essas estatísticas podem informar se há um componente linear no relacionamento, mas não muito sobre se o relacionamento é estritamente linear. Um relacionamento com um pequeno componente quadrático pode ter um r ^ 2 de 0,99. Um gráfico de resíduos em função do previsto pode ser revelador. No experimento de Galileu, aqui https://ww2.amstat.org/publications/jse/v3n1/datasets.dickey.html, a correlação é muito alta, mas a relação é claramente não-linear.


5

Aqui está uma segunda tentativa de resposta depois de receber feedback sobre problemas com a minha primeira resposta.

r|r||r|

R2r2R2

rR2rrR2rR2

O erro padrão residual é o desvio padrão para uma distribuição normal, centralizado na linha de regressão prevista, representando a distribuição dos valores realmente observados. Em outras palavras, se medirmos apenas a densidade da planta para uma nova parcela, podemos prever o peso da espiga usando os coeficientes do modelo ajustado, essa é a média dessa distribuição. O RSE é o desvio padrão dessa distribuição e, portanto, uma medida de quanto esperamos que os pesos da espiga realmente observados se desviem dos valores previstos pelo modelo. Um RSE de ~ 8 nesse caso deve ser comparado ao desvio padrão da amostra do peso da espiga, mas quanto menor o RSE for comparado ao SD da amostra, mais preditivo ou adequado será o modelo.


@whuber Ainda não há outras respostas para essa pergunta, então decidi tentar outra vez. Em vez de desfazer a exclusão da resposta antiga, com toda a sua bagagem, decidi escrever uma nova (exceto o parágrafo do RSE que copiei). Se você tiver tempo, ficaria muito grato por qualquer comentário sobre esta segunda tentativa. Minha abordagem usual para avaliação de modelo é a validação cruzada e os conjuntos de validação, pois o objetivo geralmente é a previsão, mas eu realmente gostaria de entender essas métricas, pois elas são bastante comuns.
— Johan Falkenjack

2
|r|rρ
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.