Utilidade do teorema de Frisch-Waugh

Devo ensinar o teorema de Frish Waugh em econometria, que não estudei.

Entendi a matemática por trás disso e espero que a idéia também "o coeficiente obtido para um determinado coeficiente de um modelo linear múltiplo seja igual ao coeficiente do modelo de regressão simples se você" eliminar "a influência dos outros regressores". Então a ideia teórica é bem legal. (Se eu totalmente entendi mal, recebo uma correção)

Mas tem alguns usos clássicos / práticos?

EDIT : Aceitei uma resposta, mas ainda estou disposto a ter novas que tragam outros exemplos / aplicações.

Considere o modelo de dados do painel de efeitos fixos, também conhecido como modelo LSDV (Least Squares Dummy Variables).

pode ser calculada aplicando OLS diretamente ao modelo y = X β + D α + ϵ , onde D é umamatriz N T × N de manequins e$b_{LSDV}$

$$y=X\beta+D\alpha+\epsilon,$$ $D$$NT\times N$$\alpha$ representa os efeitos fixos específicos do indivíduo.

Outra maneira de calcular é aplicar a chamada transformação dentro do modelo usual, a fim de obter uma versão menosprezada, ou seja, M [ D ] y = M [ D ] X β + M [ D ] ϵ . Aqui, M [ D ] = I - D ( D ′ D ) - 1 D ′ , a matriz fabricante residual de uma regressão em$b_{LSDV}$

$$M_{[D]}y=M_{[D]}X\beta+M_{[D]}\epsilon.$$ $M_{[D]}=I-D(D'D)^{-1}D'$ .$D$

Pelo teorema Frisch-Waugh-Lovell, os dois são equivalentes, como FWL diz que você pode calcular um subconjunto de coeficientes de regressão de uma regressão ) por$\hat\beta$

1. regredindo nos outros regressores (aqui, D ), salvando os resíduos (aqui, o tempo diminuído $y$$D$$y$ ou , porque a regressão em uma constante apenas diminui as variáveis);$M_{[D]}y$
2. regredindo o em $X$$D$ e salvando os resíduos , e$M_{[D]}X$
3. regredir os resíduos para o outro, em H [ D ] X .$M_{[D]}y$$M_{[D]}X$

A segunda versão é muito mais amplamente usada, porque os conjuntos de dados de painel típicos podem ter milhares de unidades de painel , de modo que a primeira abordagem exigiria a execução de uma regressão com milhares de regressores, o que não é uma boa ideia numericamente até hoje em dia com rapidez. computadores, como calcular o inverso de ( D : X ) ' ( D : X ) seria muito caro, considerando que rebaixando-tempo y e X é de pouco custo.$N$$(D :X)'(D: X)$$y$$X$

Aqui está uma versão simplificada da minha primeira resposta, que acredito ser menos relevante na prática, mas possivelmente mais fácil de "vender" para uso em sala de aula.

As regressões e y i - ˉ y = K Σ J = 2 β j ( x i j - ˉ x j ) + ~ ε i produzem idêntico β j , . Isso pode ser visto da seguinte forma: take x 1

$$y_i = \beta_1 + \sum_{j=2}^K\beta_jx_{ij} + \epsilon_i$$ $$y_i-\bar{y} = \sum^K_{j=2}\beta_j(x_{ij} - \bar{x}_j) + \tilde{\epsilon}_i$$ $\widehat{\beta}_j$$j=2,\ldots,K$$\mathbf{x}_1=\mathbf{1}:=(1,\ldots,1)'$ $$M_\mathbf{1}=I-\mathbf{1}(\mathbf{1}'\mathbf{1})^{-1}\mathbf{1}'=I-\frac{\mathbf{1}\mathbf{1}'}{n},$$ $$M_{\mathbf{1}}\mathbf{x}_j=\mathbf{x}_j-\mathbf{1} n^{-1}\mathbf{1}'\mathbf{x}_j=\mathbf{x}_j-\mathbf{1}\bar{x}_j=:\mathbf{x}_j-\bar{\mathbf{x}}_j.$$ $M_{\mathbf{1}}\mathbf{x}_j$ , são apenas as variáveis ​​modificadas (a mesma lógica, é claro, se aplica a$y_i$)

Here is another, more indirect, but I believe interesting one, namely the connection between different approaches to computing the partial autocorrelation coefficient of a stationary time series.

Definition 1

Consider the projection

$$\begin{equation} \hat{Y}_{t}-\mu=\alpha^{(m)}_1(Y_{t-1}-\mu)+\alpha^{(m)}_2(Y_{t-2}-\mu)+\ldots+\alpha^{(m)}_m(Y_{t-m}-\mu) \end{equation}$$ The $m$th partial autocorrelation equals $\alpha^{(m)}_m$.

It thus gives the influence of the $m$th lag on $Y_t$ \emph{after controlling for} $Y_{t-1},\ldots,Y_{t-m+1}$. Contrast this with $\rho_m$, that gives the `raw' correlation of $Y_t$ and $Y_{t-m}$.

How do we find the $\alpha^{(m)}_j$? Recall that a fundamental property of a regression of $Z_t$ on regressors $X_t$ is that the coefficients are such that regressors and residuals are uncorrelated. In a population regression this condition is then stated in terms of population correlations. Then:

$$\begin{equation} E[X_t(Z_t-X_t^\top\mathbf{\alpha}^{(m)})]=0 \end{equation}$$ Solving for $\mathbf{\alpha}^{(m)}$ we find the linear projection coefficients $$\begin{equation} \mathbf{\alpha}^{(m)}=[E(X_tX_t^\top)]^{-1}E[X_tZ_t] \end{equation}$$ Applying this formula to $Z_t=Y_t-\mu$ and $$X_t=[(Y_{t-1}-\mu),(Y_{t-2}-\mu),\ldots,(Y_{t-m}-\mu)]^\top$$ we have $$E(X_tX_t^\top)=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)$$ Also, $$E(X_tZ_t)=\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)$$ Hence, $$\begin{equation} \mathbf{\alpha}^{(m)}=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)^{-1}\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)\end{equation}$$ The $m$th partial correlation then is the last element of the vector $\mathbf{\alpha}^{(m)}$.

So, we sort of run a multiple regression and find one coefficient of interest while controlling for the others.

Definition 2

The $m$th partial correlation is the correlation of the prediction error of $Y_{t+m}$ predicted with $Y_{t-1},\ldots,Y_{t-m+1}$ with the prediction error of $Y_{t}$ predicted with $Y_{t-1},\ldots,Y_{t-m+1}$.

So, we sort of first control for the intermediate lags and then compute the correlation of the residuals.