Qual é a maneira correta de testar as diferenças significativas entre os coeficientes?

18

Espero que alguém possa ajudar a esclarecer um ponto de confusão para mim. Digamos que eu queira testar se 2 conjuntos de coeficientes de regressão são significativamente diferentes um do outro, com a seguinte configuração:

, com 5 variáveis independentes. $y_i = \alpha + \beta x_i + \epsilon_i$
2 grupos, com tamanhos aproximadamente iguais (embora isso possa variar) $n_1, n_2$
Milhares de regressões semelhantes serão feitas simultaneamente, portanto, algum tipo de correção de múltiplas hipóteses deve ser feita.

Uma abordagem que me foi sugerida é usar um teste Z:

$Z = \frac{b_1 - b_2}{\sqrt(SEb_1^2 + SEb_2^2)}$

Outro que eu vi sugerido neste quadro é a introdução de uma variável dummy para agrupar e reescrever o modelo como:

, onde é a variável de agrupamento, codificada como 0, 1. $y_i = \alpha + \beta x_i + \delta(x_ig_i) + \epsilon_i$ $g$

Minha pergunta é: como essas duas abordagens são diferentes (por exemplo, diferentes suposições feitas, flexibilidade)? Um é mais apropriado que o outro? Eu suspeito que isso seja bastante básico, mas qualquer esclarecimento seria muito apreciado.

regression hypothesis-testing multiple-regression

— cashoes
fonte

Acredito que as respostas e comentários para uma pergunta semelhante possam fornecer alguns dos esclarecimentos que você procura.

— whuber

Obrigado whuber. Eu estava familiarizado com essa resposta. Da discussão abaixo, a resposta aceita (e seus comentários) fiquei com a impressão de que comparar os coeficientes de dois ajustes separados não era apropriado. Um teste z aplicado aos coeficientes dos ajustes separados está incorreto ou é que a codificação da variável dummy é simplesmente mais fácil e fornece uma resposta equivalente?

— cashoes 15/07/11

1

Por favor, veja o último parágrafo da minha resposta ("A principal limitação ..."). O Z-teste é válido pressupondo o

são grandes (de outro modo utilizar no teste) e estimados os desvios padrão

não são muito diferentes uns dos outros. Nenhuma das abordagens é melhor quando os desvios padrão diferem muito (aproximadamente, mais do que uma proporção de 3: 1).

n_{i}

$n_i$

S E b_{i}

$SEb_i$

— whuber

13

As duas abordagens diferem.

Que os erros padrão estimados das duas regressões sejam e . Então, como a regressão combinada (com todas as interações coeficiente-fictícia) se encaixa nos mesmos coeficientes, ela possui os mesmos resíduos, de onde seu erro padrão pode ser calculado como $s_1$ $s_2$

s = \sqrt{\frac{(n_{1} - p) s_{1}^{2} + (n_{2} - p) s_{2}^{2})}{n_{1} + n_{2} - 2 p}} .

$s = \sqrt{\frac{(n_1-p) s_1^2 + (n_2-p) s_2^2)}{n_1 + n_2 - 2 p}}.$

$p$ $6$

$b_1$ $b_2$ $b$

S E (b) = s \sqrt{(S E (b_{1}) / s_{1})^{2} + (S E (b_{2}) / s_{2})^{2}} .

$SE(b) = s \sqrt{(SE(b_1)/s_1)^2 + (SE(b_2)/s_2)^2}.$

$s$

A suposição feita pela regressão combinada é que as variações dos resíduos são essencialmente as mesmas nas duas regressões separadas. Se esse não for o caso, no entanto, o teste z também não será bom (a menos que o tamanho da amostra seja grande): você deseja usar um teste CABF ou um teste t Welch-Satterthwaite.

— whuber
fonte

9

A maneira mais direta de testar a diferença no coeficiente entre dois grupos é incluir um termo de interação em sua regressão, que é quase o que você descreve em sua pergunta. O modelo que você executaria é o seguinte:

$y_i = \alpha + \beta x_i + \gamma g_i + \delta (x_i \times g_i) + \varepsilon_i$

$t$ $H_0: \delta = 0$ $g_i = 0$

$y_i = \alpha + \beta x_i + \varepsilon_i$

$g_i = 1$

$y_i = (\alpha + \gamma) + (\beta + \delta) x_i + \varepsilon_i$

$\delta$

— Matt Blackwell
fonte

Obrigado por corrigir o modelo (acredito que minha versão acima simplesmente reforça que a interceptação seja a mesma nos dois grupos ...). Mais ao ponto, isso seria equivalente ao teste z que publiquei acima?

— cashoes 15/07/11

Se alguém quisesse testar se um efeito é diferente entre mais de dois grupos, uma ANOVA compararia o modelo

y_{i} = α + β x_{i} + γ g_{i} + ε_{i}

$y_i = \alpha + \beta x_i + \gamma g_i + \varepsilon_i$ e o mostrado nesta resposta,

y_{i} = α + β x_{i} + γ g_{i} + δ (x_{i} \times g_{i}) + ε_{i}

$y_i = \alpha + \beta x_i + \gamma g_i + \delta (x_i \times g_i) + \varepsilon_i$ seja apropriado?

— Miura

@ matt-blackwell isso é conceitualmente o mesmo que estratificar o modelo por cada valor de g? (ou seja, b seria o coeficiente de x quando g = 0 e beta + delta quando g = 1) Embora eu aprecie que a estratificação não permita comparação estatística.

— precisa saber é o seguinte