Erros padrão para múltiplos coeficientes de regressão?

Percebo que essa é uma pergunta muito básica, mas não consigo encontrar resposta em lugar nenhum.

Estou computando coeficientes de regressão usando as equações normais ou a decomposição QR. Como posso calcular erros padrão para cada coeficiente? Eu geralmente penso nos erros padrão como sendo calculados como:

$SE_\bar{x}\ = \frac{\sigma_{\bar x}}{\sqrt{n}}$

O que é para cada coeficiente? Qual é a maneira mais eficiente de calcular isso no contexto do OLS?$\sigma_{\bar x}$

Ao fazer a estimativa de mínimos quadrados (assumindo um componente aleatório normal), as estimativas dos parâmetros de regressão são normalmente distribuídas com média igual ao parâmetro de regressão verdadeiro e matriz de covariância onde é a variação residual e X ^ TX é a matriz de projeto. X ^ T é a transposição de X e X é definido pela equação do modelo Y = X \ beta + \ epsilon com \ beta os parâmetros de regressão e \ epsilon é o termo do erro. O desvio padrão estimado de um parâmetro beta é obtido assumindo o termo correspondente em (X ^ TX) ^ {- 1} s 2 X t X X T X X Y = X β + £ β £ ( X T X ) - $\Sigma = s^2\cdot(X^TX)^{-1}$$s^2$$X^TX$$X^T$$X$$X$$Y=X\beta+\epsilon$$\beta$$\epsilon$$(X^TX)^{-1}$multiplicando-o pela estimativa amostral da variância residual e depois tomando a raiz quadrada. Este não é um cálculo muito simples, mas qualquer pacote de software o computará e fornecerá na saída.

Exemplo

Na página 134 de Draper e Smith (referenciada no meu comentário), eles fornecem os seguintes dados para ajustar por mínimos quadrados um modelo $Y = \beta_0 + \beta_1 X + \varepsilon$ onde $\varepsilon \sim N(0, \mathbb{I}\sigma^2)$ .

                      X                      Y                    XY
                      0                     -2                     0
                      2                      0                     0
                      2                      2                     4
                      5                      1                     5
                      5                      3                    15
                      9                      1                     9
                      9                      0                     0
                      9                      0                     0
                      9                      1                     9
                     10                     -1                   -10
                    ---                     --                   ---
Sum                  60                      5                    32
Sum of  Squares     482                     21                   528

Parece um exemplo em que a inclinação deve estar próxima de 0.

$$X^t = \pmatrix{ 1 &1 &1 &1 &1 &1 &1 &1 &1 &1 \\ 0 &2 &2 &5 &5 &9 &9 &9 &9 &10 }.$$

então

$$X^t X = \pmatrix{n &\sum X_i \\ \sum X_i &\sum X_i^2} = \pmatrix{10 &60 \\60 &482}$$

e

$$\eqalign{ (X^t X)^{-1} &= \pmatrix{ \frac{\sum X_i^2}{n \sum (X_i - \bar{X})^2} &\frac{-\bar{X}}{\sum (X_i-\bar{X})^2} \\ \frac{-\bar{X}}{\sum (X_i-\bar{X})^2} &\frac{1}{\sum (X_i-\bar{X})^2} } \\ &= \pmatrix{\frac{482}{10(122)} &-\frac{6}{122} \\ -\frac{6}{122} &\frac{1}{122}} \\ &= \pmatrix{0.395 &-0.049 \\ -0.049 &0.008} }$$

onde .$\bar{X} = \sum X_i/n = 60/10 = 6$

Estimativa para = (b0) = (Yb-b1 Xb) b1 Sxy / Sxx$β = (X^TX)^{-1} X^TY$

b1 = 1/61 = 0,0163 eb = 0 - 0,0163 (6) = 0,402

De acima Sb1 = Se (0,008) e Sb0 = Se (0,395) em que Se é o desvio padrão estimado para o termo de erro. Se = √2,3085.$(X^TX)^{-1}$

Lamentamos que as equações não tenham assinatura e sobrescrição quando eu as recortei e colei. A mesa também não se reproduziu bem porque os espaços foram ignorados. A primeira sequência de 3 números corresponde aos primeiros valores de XY e XY e o mesmo para as sequências de caracteres a seguir de três. Depois de Sum vem as somas para XY e XY, respectivamente, e depois a soma dos quadrados para XY e XY, respectivamente. As matrizes 2x2 também foram confusas. Os valores após os colchetes devem estar entre colchetes abaixo dos números à esquerda.