Na prática, como é calculada a matriz de covariância de efeitos aleatórios em um modelo de efeitos mistos?

Basicamente, o que eu quero saber é como as diferentes estruturas de covariância são aplicadas e como os valores dentro dessas matrizes são calculados. Funções como lme () permitem escolher qual estrutura gostaríamos, mas eu adoraria saber como elas são estimadas.

Considere o modelo linear de efeitos mistos .$Y=X\beta+Zu+\epsilon$

Onde e . Além disso:ϵ d ∼ N ( 0 , R $u \stackrel{d}{\sim} N(0,D)$$\epsilon \stackrel{d}{\sim} N(0,R)$

$Var(Y|X,Z,\beta,u)=R$

$Var(Y|X,\beta)=Z'DZ+R=V$

Para simplificar, assumiremos .$R=\sigma^2I_n$

Basicamente, minha pergunta é: como exatamente é estimado a partir dos dados para as várias parametrizações? Digamos se assumimos que é diagonal (efeitos aleatórios são independentes) ou totalmente parametrizado (caso eu esteja mais interessado no momento) ou alguma das várias outras parametrizações? Existem estimadores / equações simples para estes? (Isso sem dúvida seria estimado iterativamente.)D $D$$D$$D$

EDIT: Do livro Variance Components (Searle, Casella, McCulloch 2006), consegui ver o seguinte:

Se , os componentes da variação são atualizados e calculados da seguinte forma:$D=\sigma^2_uI_q$

$\sigma_u^{2(k+1)} = \frac{\hat{\textbf{u}}^T\hat{\textbf{u}}} {\sigma_u^{2(k)}\text{trace}(\textbf{V}^{-1}\textbf{Z}^T\textbf{Z})}$

$\sigma_e^{2(k+1)} = Y'(Y-X{\hat{\beta}}^{(k)}-{Z}\hat{{u}}^{(k)})/n$

Onde e são os th atualizações respectivamente.$\hat{\beta}^{(k)}$$\hat{{u}}^{(k)}$$k$

Existem fórmulas gerais quando é diagonal do bloco ou totalmente parametrizado? Suponho que, no caso totalmente parametrizado, uma decomposição de Cholesky é usada para garantir definição e simetria positivas.$D$

O link Goldstein .pdf @probabilityislogic é um ótimo documento. Aqui está uma lista de algumas referências que discutem sua pergunta específica:

Harville, 1976: Extensão do Teorema de Gauss-Markov para incluir a estimativa de efeitos aleatórios .

Harville, 1977: abordagens de máxima verossimilhança para estimativa de componentes de variância e problemas relacionados .

Laird e Ware, 1982: Modelos de efeitos aleatórios para dados longitudinais .

McCulloch, 1997: algoritmos de máxima verossimilhança para modelos mistos lineares generalizados .

O trecho do Guia do Usuário do SAS para o procedimento MIXED possui ótimas informações sobre estimativa de covariância e muitas outras fontes (começando na página 3968).

Existem inúmeros livros didáticos de qualidade sobre análise de dados de medidas longitudinais / repetidas, mas aqui está um que detalha a implementação em R (dos autores de lme4e nlme):

Pinheiro e Bates, 2000: Modelos de Efeitos Mistos em S e S-PLUS .

EDIT : Mais um artigo relevante: Lindstrom e Bates, 1988: Newton-Raphson e EM Algorithms para modelos lineares de efeitos mistos para dados de medidas repetidas .

EDIT 2 : E outro: Jennrich e Schluchter, 1986: Modelos de Medidas Repetidas Desequilibradas com Matrizes de Covariância Estruturada .

Harvey Goldstein não é um lugar ruim para começar.

Como nos métodos de estimativa mais complexos, varia de acordo com o pacote de software. No entanto, muitas vezes o que é feito é realizado nas seguintes etapas:

1. Escolha um valor inicial para (diga D 0 ) e R (diga R 0 ). Defina i = $D$$D_0$$R$$R_0$$i=1$
2. $D=D_{i-1}$$R=R_{i-1}$$\beta$$u$$\epsilon$$\beta_i$$u_i$$\epsilon_i$
3. $\beta=\beta_i$$u=u_i$$\epsilon=\epsilon_i$$D$$R$$D_i$$R_i$
4. $i=i+1$

Um método simples e rápido é o IGLS, que se baseia na iteração entre dois procedimentos de mínimos quadrados e é descrito em detalhes no capítulo dois. A desvantagem é que ele não funciona bem para componentes de variação próximos de zero.

O artigo a seguir fornece uma solução de formulário fechado para D:

• J. Shao, Mari Palta e Roger Qu, (1998), " Estimativa dos mínimos quadrados de parâmetros de regressão em modelos de efeitos mistos com covariáveis ​​não medidas ", Communications in Statistics - Theory and Methods , 27: 6, 1487-1501, DOI: 10.1080 / 03610929808832172

mais duas referências que poderiam ser úteis Variance Components por Searle Et al e Lynch e Walsh Genetics and Analysis of Quantitative Traits . O livro de Lynch e Walsh fornece um algoritmo passo a passo, se bem me lembro