Regras práticas para o tamanho mínimo da amostra para regressão múltipla

No contexto de uma proposta de pesquisa em ciências sociais, me fizeram a seguinte pergunta:

Eu sempre fui 100 + m (onde m é o número de preditores) ao determinar o tamanho mínimo da amostra para regressão múltipla. Isso é apropriado?

Eu recebo muitas perguntas semelhantes, geralmente com regras diferentes. Eu também já li bastante essas regras em vários livros didáticos. Às vezes me pergunto se a popularidade de uma regra em termos de citações se baseia em quão baixo o padrão é estabelecido. No entanto, também estou ciente do valor de boas heurísticas na simplificação da tomada de decisões.

Questões:

• Qual é a utilidade de regras práticas simples para tamanhos mínimos de amostra no contexto de pesquisadores aplicados que elaboram estudos de pesquisa?
• Você sugeriria uma regra prática alternativa para o tamanho mínimo da amostra para regressão múltipla?
• Como alternativa, que estratégias alternativas você sugeriria para determinar o tamanho mínimo da amostra para regressão múltipla? Em particular, seria bom se o valor fosse atribuído ao grau em que qualquer estratégia possa ser prontamente aplicada por um não estatístico.

Não sou fã de fórmulas simples para gerar tamanhos mínimos de amostra. No mínimo, qualquer fórmula deve considerar o tamanho do efeito e as questões de interesse. E a diferença entre os lados de um ponto de corte é mínima.

Tamanho da amostra como problema de otimização

• Amostras maiores são melhores.
• O tamanho da amostra é geralmente determinado por considerações pragmáticas.
• O tamanho da amostra deve ser visto como uma consideração em um problema de otimização, em que o custo em tempo, dinheiro, esforço e assim por diante na obtenção de participantes adicionais é ponderado contra os benefícios de ter participantes adicionais.

Uma regra geral

Em termos de regras práticas muito rudes no contexto típico de estudos psicológicos observacionais envolvendo coisas como testes de habilidade, escalas de atitude, medidas de personalidade e assim por diante, às vezes penso em:

• n = 100 como adequado
• n = 200 tão bom
• n = 400 + tão bom

Essas regras práticas são baseadas nos intervalos de confiança de 95% associados às correlações nesses níveis respectivos e no grau de precisão que eu gostaria de entender teoricamente as relações de interesse. No entanto, é apenas uma heurística.

G Power 3

• Eu normalmente uso G-Power 3 para calcular o poder com base em vários pressupostos veja meu post .
• Consulte este tutorial no site do G Power 3 específico para regressão múltipla
• O Power Primer também é uma ferramenta útil para pesquisadores aplicados.

Regressão múltipla testa várias hipóteses

• Qualquer questão de análise de poder requer consideração dos tamanhos dos efeitos.

• A análise de potência para regressão múltipla é complicada pelo fato de haver vários efeitos, incluindo o quadrado geral r e um para cada coeficiente individual. Além disso, a maioria dos estudos inclui mais de uma regressão múltipla. Para mim, esse é outro motivo para confiar mais nas heurísticas gerais e pensar no tamanho mínimo do efeito que você deseja detectar.

• Em relação à regressão múltipla, geralmente pensarei mais em termos do grau de precisão na estimativa da matriz de correlação subjacente.

Precisão na estimativa de parâmetros

Também gosto de Ken Kelley e a discussão de colegas sobre Precisão na estimativa de parâmetros.

• Veja o site de Ken Kelley para publicações
• Como mencionado por @Dmitrij, Kelley e Maxwell (2003), o PDF GRÁTIS tem um artigo útil.
• Ken Kelley desenvolveu o MBESSpacote em R para realizar análises relacionadas ao tamanho da amostra e à precisão na estimativa de parâmetros.

Não prefiro pensar nisso como uma questão de poder, mas faça a pergunta "quão grande deve ser para que o aparente possa ser confiável"? Uma maneira de abordar isso é considerar a razão ou diferença entre e , sendo este último o ajustado dado por e formando uma estimativa mais imparcial de "verdadeiro" .$n$$R^2$$R^2$$R_{adj}^{2}$$R^2$$1 - (1 - R^{2})\frac{n-1}{n-p-1}$$R^2$

Algum código R pode ser usado para resolver o fator de que deve ser tal que seja apenas um fator menor que ou seja menor que . $p$$n-1$$R_{adj}^{2}$$k$$R^2$$k$

require(Hmisc)
dop <- function(k, type) {
  z <- list()
  R2 <- seq(.01, .99, by=.01)
  for(a in k) z[[as.character(a)]] <-
    list(R2=R2, pfact=if(type=='relative') ((1/R2) - a) / (1 - a) else
         (1 - R2 + a) /  a)
  labcurve(z, pl=TRUE, ylim=c(0,100), adj=0, offset=3,
           xlab=expression(R^2), ylab=expression(paste('Multiple of ',p)))
}
par(mfrow=c(1,2))
dop(c(.9, .95, .975), 'relative')
dop(c(.075, .05, .04, .025, .02, .01), 'absolute')

Legenda: Degradação em que atinge uma queda relativa de para por um fator relativo indicado (painel esquerdo, 3 fatores) ou diferença absoluta (painel direito, 6 decrementos).$R^{2}$$R^{2}$$R^{2}_{adj}$

Se alguém já viu isso já impresso, informe-me.

(+1) para de fato uma pergunta crucial, na minha opinião,.

Na macroeconomia, você geralmente tem tamanhos de amostra muito menores do que em experimentos micro, financeiros ou sociológicos. Um pesquisador se sente muito bem quando pode fornecer estimativas pelo menos viáveis. Minha regra pessoal menos possível é ( graus de liberdade em um parâmetro estimado). Em outros campos de estudos aplicados, geralmente você tem mais sorte com os dados (se não for muito caro, basta coletar mais pontos de dados) e pode perguntar qual é o tamanho ideal de uma amostra (e não apenas o valor mínimo para isso). A última questão vem do fato de que mais dados de baixa qualidade (barulhentos) não são melhores do que uma amostra menor de dados de alta qualidade.$4\cdot m$$4$

A maioria dos tamanhos de amostra está vinculada ao poder dos testes para a hipótese que você testará após ajustar o modelo de regressão múltipla.

Há uma boa calculadora que pode ser útil para vários modelos de regressão e alguma fórmula nos bastidores. Penso que uma calculadora desse priorado poderia ser facilmente aplicada por não estatísticos.

Provavelmente, o artigo de K.Kelley e SEMaxwell pode ser útil para responder a outras perguntas, mas primeiro preciso de mais tempo para estudar o problema.

Sua regra geral não é particularmente boa se for muito grande. Tome : sua regra diz que não há problema em ajustar variáveis ​​com apenas observações. Eu dificilmente penso assim!$m$$m=500$$500$$600$

Para regressão múltipla, você tem alguma teoria para sugerir um tamanho mínimo de amostra. Se você usará mínimos quadrados comuns, uma das suposições necessárias é que os "resíduos verdadeiros" sejam independentes. Agora, quando você ajusta um modelo de mínimos quadrados a variáveis, está impondo restrições lineares em seus resíduos empíricos (dados pelos mínimos quadrados ou equações "normais"). Isso implica que os resíduos empíricos não são independentes - uma vez que conhecemos o deles, o restante pode ser deduzido, onde é o tamanho da amostra. Portanto, temos uma violação dessa suposição. Agora a ordem da dependência é . Portanto, se você escolher$m$$m+1$$n-m-1$$m+1$$n$$O\left(\frac{m+1}{n}\right)$$n=k(m+1)$ para algum número , então a ordem é dada por . Portanto, ao escolher , você está escolhendo quanta dependência deseja tolerar. Escolho da mesma maneira que você aplica para aplicar o "teorema do limite central" - é bom, e temos a regra "estatísticas de contagem" (ou seja, o sistema de contagem do estatístico é ).$k$kk10-2030≡∞1,2,...,26,27,28,29,$O\left(\frac{1}{k}\right)$$k$$k$$10-20$$30\equiv\infty$$1,2,\dots,26,27,28,29,\infty$

Em Psicologia:

Green (1991) indica que (onde m é o número de variáveis ​​independentes) é necessário para testar correlação múltipla e para testar preditores individuais.N > 104 + $N > 50 + 8m$$N > 104 + m$

Outras regras que podem ser usadas são ...

Harris (1985) diz que o número de participantes deve exceder o número de preditores em pelo menos .$50$

Van Voorhis & Morgan (2007) ( pdf ) usando 6 ou mais preditores, o mínimo absoluto de participantes deve ser . Embora seja melhor optar por participantes por variável.$10$$30$

Concordo que as calculadoras de potência são úteis, especialmente para ver o efeito de diferentes fatores sobre a potência. Nesse sentido, calculadoras que incluem mais informações de entrada são muito melhores. Para regressão linear, eu gosto da calculadora de regressão aqui, que inclui fatores como erro em Xs, correlação entre Xs e muito mais.

Descobri este artigo bastante recente (2015) avaliando que apenas 2 observações por variável são suficientes, desde que nosso interesse esteja na precisão dos coeficientes de regressão estimados e erros padrão (e na cobertura empírica dos intervalos de confiança resultantes) e use o ajustado :$R^2$

( pdf )

Obviamente, como também reconhecido pelo artigo, a imparcialidade (relativa) não implica necessariamente ter poder estatístico suficiente. No entanto, os cálculos de potência e tamanho da amostra geralmente são feitos especificando os efeitos esperados; no caso de regressão múltipla, isso implica uma hipótese sobre o valor dos coeficientes de regressão ou sobre a matriz de correlação entre os regressores e o resultado. Na prática, depende da força da correlação dos regressores com o resultado e entre si (obviamente, quanto mais forte melhor para a correlação com o resultado, enquanto as coisas pioram com a multicolinearidade). Por exemplo, no caso extremo de duas variáveis ​​perfeitamente colineares, não é possível executar a regressão, independentemente do número de observações, e mesmo com apenas duas covariáveis.