Quais são os contras da análise bayesiana?

Quais são algumas objeções práticas ao uso de métodos estatísticos bayesianos em qualquer contexto? Não, não me refiro ao comentário habitual sobre a escolha do anterior. Ficarei encantado se isso não receber respostas.

Eu vou lhe dar uma resposta. Quatro inconvenientes, na verdade. Observe que nenhuma delas é na verdade objeções que devem levar à análise frequentista, mas há contras em seguir uma estrutura bayesiana:

1. Escolha do prior. Este é o truque habitual por uma razão, embora no meu caso não seja o habitual "os anteriores são subjetivos!" mas o fato de apresentar um prior bem fundamentado e realmente representar sua melhor tentativa de resumir um prior é muito trabalho em muitos casos. Um objetivo inteiro da minha dissertação, por exemplo, pode ser resumido como "estimativas anteriores".
2. É computacionalmente intensivo. Especialmente para modelos que envolvem muitas variáveis. Para um grande conjunto de dados com muitas variáveis ​​sendo estimadas, pode ser muito proibitivo em termos computacionais, especialmente em certas circunstâncias em que os dados não podem ser prontamente lançados em um cluster ou algo semelhante. Algumas das maneiras de resolver isso, como dados aumentados em vez de MCMC, são teoricamente desafiadoras, pelo menos para mim.
3. As distribuições posteriores são um pouco mais difíceis de incorporar em uma meta-análise, a menos que uma descrição paramétrica e freqüentista da distribuição tenha sido fornecida.
4. Dependendo do periódico para o qual a análise se destina, seja o uso de Bayes em geral, seja a sua escolha de anteriores, o artigo dá um pouco mais de pontos em que um revisor pode pesquisar. Algumas são objeções razoáveis ​​para os revisores, mas outras se originam da natureza de Bayes e de como as pessoas em alguns campos estão familiarizadas.

Nenhuma dessas coisas deve impedi-lo. De fato, nenhuma dessas coisas me impediu, e espero que a análise bayesiana ajude a abordar pelo menos o número 4.

Sou bayesiano por inclinação, mas geralmente sou um freqüentador na prática. A razão para isso é geralmente que realizar a análise bayesiana completa adequadamente (em vez de, por exemplo, soluções MAP) para os tipos de problemas nos quais estou interessado é complicado e computacionalmente intensivo. Freqüentemente, é necessária uma análise bayesiana completa para realmente ver o benefício dessa abordagem sobre os equivalentes freqüentistas.

Para mim, o trade-off é basicamente uma escolha entre métodos bayesianos que são conceitualmente elegantes e fáceis de entender, mas difíceis de implementar na prática e métodos freqüentistas, conceitualmente estranhos e sutis (tente explicar como interpretar um teste de hipótese com precisão ou por que não há uma probabilidade de 95% de que o verdadeiro valor esteja em um intervalo de confiança de 95%), mas que são adequados para soluções de "livro de receitas" facilmente implementadas.

Cavalos para cursos.

De um ponto de vista puramente prático, não sou fã de métodos que exigem muita computação (estou pensando no sampler de Gibbs e no MCMC, frequentemente usados ​​na estrutura bayesiana, mas isso também se aplica, por exemplo, às técnicas de autoinicialização na análise freqüentista). A razão é que qualquer tipo de depuração (testando a implementação, analisando a robustez em relação a suposições etc. ) requer um monte de simulações de Monte Carlo e você fica rapidamente em um pântano computacional. Prefiro que as técnicas de análise subjacentes sejam rápidas e determinísticas, mesmo que sejam apenas aproximadas.

Esta é uma objeção puramente prática, é claro: dados infinitos recursos computacionais, essa objeção desapareceria. E isso só se aplica a um subconjunto de métodos bayesianos. Além disso, isso é mais uma preferência, considerando meu fluxo de trabalho.

Às vezes, há uma solução "clássica" simples e natural para um problema; nesse caso, um método bayesiano sofisticado (especialmente no MCMC) seria um exagero.

Além disso, em problemas de tipo de seleção variável, pode ser mais direto e claro considerar algo como uma probabilidade penalizada; pode existir um prior em modelos que ofereça uma abordagem bayesiana equivalente, mas como o prior corresponde ao desempenho final pode ser menos claro do que a relação entre a penalidade e o desempenho.

Por fim, os métodos MCMC geralmente exigem um especialista para avaliar a convergência / mistura e para entender os resultados.

Eu sou relativamente novo nos métodos bayesianos, mas uma coisa que me irrita é que, embora eu compreenda a lógica dos anteriores (ou seja, a ciência é um esforço cumulativo, portanto, para a maioria das perguntas, existe uma certa quantidade de experiência / pensamento anterior que deve informar o seu não gosto que a abordagem bayesiana o force a empurrar a subjetividade para o início da análise, tornando contingente o resultado final. Acredito que isso é problemático por duas razões: 1) alguns leitores menos versados ​​nem prestam atenção aos anteriores e interpretam os resultados bayesianos como não contingentes; 2) a menos que os dados brutos estejam disponíveis, é difícil para os leitores reformularem os resultados em seus próprios antecedentes subjetivos. É por isso que eu prefiro razões de probabilidade,

(Críticos astutos observarão que mesmo a razão de verossimilhança é "contingente", no sentido de que depende da parametrização dos modelos que estão sendo comparados; no entanto, esse é um recurso compartilhado por todos os métodos, freqüentista, bayesiano e verossimilhança)

A teoria da decisão é a teoria subjacente na qual a estatística opera. O problema é encontrar um bom procedimento (em algum sentido) para produzir decisões a partir dos dados. No entanto, raramente há uma escolha inequívoca de procedimento, no sentido de minimizar a perda esperada; portanto, outros critérios devem ser invocados para escolher entre eles. A escolha dos procedimentos que são Bayes em relação a alguns anteriores é um desses critérios, mas nem sempre é o que você deseja. Minimax pode ser mais importante em alguns casos, ou imparcialidade.

Quem insiste que os freqüentadores estão errados ou os bayesianos ou errados está principalmente revelando sua ignorância das estatísticas.

Por algum tempo, eu queria me educar mais sobre as abordagens bayesianas da modelagem para superar meu entendimento superficial (codifiquei os amostradores de Gibbs no trabalho de graduação, mas nunca fiz nada real). No entanto, ao longo do caminho, pensei que alguns dos documentos de Brian Dennis foram instigantes e desejavam encontrar um amigo bayesiano (os que não estavam no armário) para ler os jornais e ouvir seus contrapontos. Então, aqui estão os trabalhos a que me refiro, mas a citação que sempre lembro é

Ser bayesiano significa nunca ter que dizer que você está errado.

http://faculty.washington.edu/skalski/classes/QERM597/papers/Dennis_1996.pdf http://classes.warnercnr.colostate.edu/nr575/files/2011/01/Lele-and-Dennis-2009.pdf

Quais são os problemas em aberto nas Estatísticas Bayesianas do boletim trimestral da ISBA listam 5 problemas com estatísticas bayesianas de vários líderes no campo, sendo o número 1, aborrecido o suficiente, "Seleção de modelos e teste de hipóteses".