Que eu saiba, não é uma maneira "fácil" de resolver isso. Também considerando que, na maioria dos casos, o lmer faz uso pesado de matrizes esparsas para a fatoração de Cholesky, seria improvável que ele permitisse VCVs totalmente não estruturados.
( 1 | R um n dEff1) + ( 1 | R a n dEff2)
R = ⎡⎣⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢σ2R E10 00 00 00 00 00 0σ2R E10 00 00 00 00 00 0σ2R E10 00 00 00 00 00 0σ2R E20 00 00 00 00 00 0σ2R E20 00 00 00 00 00 0σ2R E2⎤⎦⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥
Porém, nem tudo se perde com as LME: você pode especificar esses atributos da matriz VCV "facilmente" se estiver usando o pacote R MCMCglmm. Veja o CourseNotes.pdf , p.70 . Nessa página, ele fornece alguns análogos sobre como a estrutura de efeitos aleatórios do lme4 seria definida, mas como você se verá, o lmer é menos flexível que o MCMCglmm nesse assunto.
No meio do caminho, há as classes lme corStruct do problema nlme, por exemplo. corCompSymm , corAR1 , etc. etc. A resposta de Fabian neste passo fornece alguns exemplos mais concisos para a especificação VCV baseada em lme4, mas conforme mencionado anteriormente, eles não são tão explicitamente quanto os de MCMCglmm ou nlme.