Quando usar a técnica bootstrap vs. bayesiana?


12

Eu tenho um problema de análise de decisão bastante complicado que envolve testes de confiabilidade e a abordagem lógica (para mim) parece envolver o uso do MCMC para apoiar uma análise bayesiana. No entanto, foi sugerido que seria mais apropriado usar uma abordagem de inicialização. Alguém poderia sugerir uma referência (ou três) que possa apoiar o uso de qualquer técnica em detrimento da outra (mesmo para situações particulares)? FWIW, tenho dados de várias fontes diferentes e poucas / zero observações de falha. Eu também tenho dados nos níveis de subsistema e sistema.

Parece que uma comparação como essa deve estar disponível, mas não tive sorte em procurar os suspeitos de sempre. Agradecemos antecipadamente por quaisquer ponteiros.


1
Dado que o bootstrap clássico pode ser pensado como um método de máxima verossimilhança implementado por computador (ou seja, uma técnica não bayesiana (flat prior)), seria melhor reformular sua pergunta para algo como "quando usar a técnica frequentista versus bayesiana" ? " Algumas informações sobre o bootstrap: stats.stackexchange.com/questions/18469/…
Yevgeny

1
Hummm ... acho que discordo. Espero que o 'bootstrap' sugira especificamente a caracterização do intervalo; um pouco mais focado do que apenas 'freqüentador'. Pelo menos o 'bootstrap' manterá a maioria dos fanáticos religiosos afastados. Além disso, obrigado pelo link, mas eu estava familiarizado com o seu comentário anterior antes de publicar isso.
Aengus 28/03

1
Deixe-me reformular, você tem alguma informação prévia útil ou o problema tem uma estrutura hierárquica (aninhada)? Nesse caso, uma técnica bayesiana provavelmente é melhor (especialmente se o número de parâmetros do modelo for grande em relação à quantidade de dados disponíveis, a estimativa se beneficiaria do "encolhimento bayesiano"). Caso contrário, o MLE / bootstrap é suficiente.
Yevgeny

Acho que outra abordagem possível é usar modelos de efeitos mistos (por exemplo, usando o pacote R lme4) para modelar a estrutura hierárquica que você aludiu. Isso também ajudaria a estabilizar as estimativas para modelos (hierárquicos) com grande número de parâmetros.
Yevgeny

1
Uma análise de autoinicialização pode muito bem ser vista como uma análise bayesiana; portanto, sua pergunta poderia ser "Quando usar o autoinicialização versus outro modelo bayesiano" (Sua pergunta me levou a escrever essa interpretação da autoinicialização como um modelo bayesiano : sumsar.net/blog/2015/04/… ). Dada a pergunta, concordo com a @Yevgeny que provavelmente precisaríamos de mais informações sobre seu problema específico antes de podermos recomendar um modelo.
Rasmus Bååth

Respostas:


15

Na minha opinião, a descrição do seu problema aponta para duas questões principais. Primeiro:

Eu tenho uma análise de decisão bastante complicada ...

Supondo que você tenha uma função de perda em mãos, você precisa decidir se se preocupa com o risco freqüentista ou com a perda posterior esperada . O bootstrap permite aproximar os funcionais da distribuição de dados, ajudando assim com o primeiro; e amostras posteriores do MCMC permitem avaliar o último. Mas...

Eu também tenho dados nos níveis de subsistema e sistema

para que esses dados tenham estrutura hierárquica. A abordagem bayesiana modela esses dados de maneira muito natural, enquanto o bootstrap foi originalmente projetado para dados modelados como iid. Embora tenha sido estendido para dados hierárquicos (consulte as referências na introdução deste artigo ), essas abordagens são relativamente subdesenvolvidas (de acordo com o resumo de este artigo ).

Resumindo: se você realmente se preocupa com o risco freqüentista, pode ser necessária alguma pesquisa original na aplicação do bootstrap à teoria da decisão. No entanto, se minimizar a perda posterior esperada é um ajuste mais natural ao seu problema de decisão, Bayes é definitivamente o caminho a percorrer.


Obrigado, eu não tinha encontrado nenhum deles; o último artigo parece particularmente interessante.
Aengus

Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.