O que é estimativa conjunta?

Minha pergunta é simples assim: o que é estimativa conjunta? E o que isso significa no contexto da análise de regressão? Como isso é feito? Eu vaguei na poderosa Internet por algum tempo, mas não encontrei respostas para essas perguntas.

regression estimation terminology

— Perdido na regressão
fonte

Muito obrigado por todas as respostas úteis e pelo esforço que você fez para esclarecer isso para mim!

— Perdido na regressão

Respostas:

A estimativa conjunta é, simplesmente, a estimativa conjunta de duas (ou mais) coisas ao mesmo tempo. Pode ser tão simples quanto estimar a média e o desvio padrão de uma amostra.

Em grande parte da literatura, o termo é invocado porque um procedimento especial de estimativa deve ser usado. Geralmente, esse é o caso quando uma quantidade depende da outra e vice-versa, para que uma solução analítica para o problema seja intratável. Como exatamente a estimativa conjunta é feita depende inteiramente do problema.

Um método que aparece frequentemente para "modelagem conjunta" ou estimativa conjunta é o algoritmo EM. EM significa expectativa - maximização. Ao alternar essas etapas, a etapa E preenche os dados ausentes que dependem do componente A e a etapa M encontra estimativas ótimas para o componente B. Ao iterar as etapas E e M, é possível encontrar uma estimativa de probabilidade máxima de A e B, assim, estimar conjuntamente essas coisas.

— AdamO
fonte

Pode dar um exemplo de onde nós estamos não estimar a média e desvio padrão de uma variável? Que tipo de algoritmo é usado então?

— SMCI

A modelagem mista linear @smci estima em conjunto os componentes fixos e aleatórios.

— AdamO 04/10/19

obrigado, quero dizer, edite isso (e quaisquer outros exemplos) em sua resposta. O algoritmo é totalmente diferente do EM? (? Como é que conseguem estimar ambos os componentes simultaneamente Será que garantir a convergência etc?)

— SMCI

@smci Eu discordo. a) Essa não é a pergunta do OP. b) Existem infinitos "outros exemplos" c) qual é o algoritmo da LME e como ele é diferente do EM é outra questão.

— 21419 AdamOt,

ajuda a ilustrar a resposta com exemplos. E isso contribui para uma resposta melhor, portanto faz parte do que foi solicitado.

— smci

Em um contexto estatístico, o termo "estimativa conjunta" pode significar uma de duas coisas:

1. A estimativa simultânea de dois ou mais parâmetros escalares (ou equivalente, a estimativa de um parâmetro vetorial com pelo menos dois elementos); ou
1. A estimativa de um único parâmetro relativo a uma junta (por exemplo, no estudo de carpintaria, sistemas de encanamento ou fumo de maconha).

Dessas duas opções, a segunda é uma piada; portanto, quase certamente, a estimativa conjunta refere-se à estimativa simultânea de dois parâmetros escalares ao mesmo tempo.

— Ben - Restabelecer Monica
fonte

para ser pedante, dois ou mais

— QWR

Pediatria aceita - editada.

— Ben - Restabelece Monica

A estimativa conjunta está usando dados para estimar dois ou mais parâmetros ao mesmo tempo. A estimativa separada avalia cada parâmetro, um de cada vez.

A estimativa é o resultado de alguma forma de processo de otimização. Por esse motivo, não existem soluções de estimativa exclusivas nas estatísticas. Se você muda seu objetivo, muda o que é ideal. Quando você aprende coisas como regressão, ninguém diz por que você está fazendo o que está fazendo. O objetivo do instrutor é fornecer um grau de funcionalidade básica usando métodos que funcionam em uma ampla variedade de circunstâncias. No começo, você não está aprendendo sobre regressão. Em vez disso, você está aprendendo um ou dois métodos de regressão que são amplamente aplicáveis em uma ampla variedade de circunstâncias.

O fato de você estar procurando soluções que resolvam um objetivo oculto torna um pouco difícil de entender.

z = β_{x} x + β_{y} y + α

$z=\beta_xx+\beta_yy+\alpha$

z

$z$

(x, y)

$(x,y)$

{β_{x}, β_{y}, α}

$\{\beta_x,\beta_y,\alpha\}$

{x, y, z}

$\{x,y,z\}$

Em uma estimativa separada, você estimaria um parâmetro por vez. Na estimativa conjunta, você estimaria todos eles de uma só vez.

$x$ $z$ $y$ $y$

$x$ $z$ $x$ $z$ $z=\beta_xx+\alpha$ $z=\beta_yy+\alpha$

Agora, como é feito. Toda estimativa, excluindo alguns casos excepcionais, usa o cálculo para encontrar um estimador que minimize alguma forma de perda ou algum tipo de risco. A preocupação é que você não tenha sorte em escolher sua amostra. Infelizmente, há um número infinito de funções de perda. Há também um número infinito de funções de risco.

Encontrei vários vídeos para você porque é um tópico gigante, para que você possa vê-lo de uma forma mais geral. Eles são do Mathematics Monk.

https://www.youtube.com/watch?v=6GhSiM0frIk

https://www.youtube.com/watch?v=5SPm4TmYTX0

https://www.youtube.com/watch?v=b1GxZdFN6cY

https://www.youtube.com/watch?v=WdnP1gmb8Hw .

— Dave Harris
fonte