Intervalo de previsão de regressão linear

Se a melhor aproximação linear (usando mínimos quadrados) dos meus pontos de dados é a linha $y=mx+b$ , como posso calcular o erro de aproximação? Se o cálculo do desvio padrão da diferença entre as observações e previsões $e_i=real(x_i)-(mx_i+b)$ , que pode depois dizer que uma verdadeira (mas não observado) valor $y_r=real(x_0)$ pertence ao intervalo ( y p = m x 0 + b ) com probabilidade ~ 68%, assumindo distribuição normal?$[y_p-\sigma, y_p+\sigma]$$y_p=mx_0+b$

Esclarecer:

Fiz observações sobre uma função avaliando-a em alguns pontos x i . Ajustei essas observações a uma linha l ( x ) = m x + b . Para x 0 que eu não observei, gostaria de saber quão grande pode ser f ( x 0 ) - l ( x 0 ) . Usando o método acima, é correto dizer que f ( x 0 ) ∈ [ l ( x $f(x)$$x_i$$l(x)=mx+b$$x_0$$f(x_0)-l(x_0)$ com prob. ~ 68%?$f(x_0) \in [l(x_0)-\sigma, l(x_0)+\sigma]$

O @whuber apontou três boas respostas, mas talvez eu ainda possa escrever algo de valor. Sua pergunta explícita, como eu a entendo, é:

Dada a minha modelo $\hat y_i=\hat mx_i + \hat b$ (aviso Eu adicionado chapéus '') , e assumindo que os resíduos são normalmente distribuídos, , que podem prever que um ainda resposta não observada, y n e w , com um valor preditivo conhecida, x n e w , vai cair dentro do intervalo ( y - σ e , y + $\mathcal N(0, \hat\sigma^2_e)$$y_{new}$$x_{new}$ , com probabilidade 68%?$(\hat y -\sigma_e, \hat y +\sigma_e)$

Intuitivamente, a resposta parece que deveria ser 'sim', mas a resposta verdadeira é talvez . Este será o caso quando os parâmetros (ou seja, & σ ) forem conhecidos e sem erros. Como você estimou esses parâmetros, precisamos levar em consideração a incerteza deles. $m, b,$$\sigma$

Vamos primeiro pensar no desvio padrão de seus resíduos. Como isso é calculado a partir dos seus dados, pode haver algum erro na estimativa. Como resultado, a distribuição você deve usar para formar o seu intervalo de previsão deve ser , não o normal. No entanto, como ot converge rapidamente para o normal, é menos provável que seja um problema na prática. $t_\text{df error}$$t$

$\hat y_\text{new}\pm t_{(1-\alpha/2,\ \text{df error})}s$$\hat y_\text{new}\pm z_{(1-\alpha/2)}s$$\hat m$$\hat b$$s_\text{error}$

$$s^2_\text{predictions(new)}=s^2_\text{error}+\text{Var}(\hat mx_\text{new}+\hat b)$$ $x$$s^2$$x$ $$s_\text{predictions(new)}=\sqrt{s^2_\text{error}\left(1+\frac{1}{N}+\frac{(x_\text{new}-\bar x)^2}{\sum(x_i-\bar x)^2}\right)}$$ As an interesting side note, we can infer a few facts about prediction intervals from this equation. First, prediction intervals will be narrower the more data we had when we built the prediction model (this is because there's less uncertainty in $\hat m$ & $\hat b$). Second, predictions will be most precise if they are made at the mean of the $x$ values you used to develop your model, as the numerator for the third term will be $0$. The reason is that under normal circumstances, there is no uncertainty about the estimated slope at the mean of $x$, only some uncertainty about the true vertical position of the regression line. Thus, some lessons to be learned for building prediction models are: that more data is helpful, not with finding 'significance', but with improving the precision of future predictions; and that you should center your data collection efforts on the interval where you will need to be making predictions in the future (to minimize that numerator), but spread the observations as widely from that center as you can (to maximize that denominator).

Having calculated the correct value in this manner, we can then use it with the appropriate $t$ distribution as noted above.