Escolhendo entre versões beta não informativas

Estou procurando informações preliminares não informativas para a distribuição beta para trabalhar com um processo binomial (acerto / acerto). No começo, pensei em usar $\alpha=1, \beta=1$ que gera um PDF uniforme ou Jeffrey antes de $\alpha=0.5, \beta=0.5$ . Mas, na verdade, estou procurando priors que tenham o efeito mínimo em resultados posteriores, e depois pensei em usar um prior inadequado de $\alpha=0, \beta=0$ . O problema aqui é que minha distribuição posterior só funciona se eu tiver pelo menos um golpe e uma falta. Para superar isso, pensei em usar uma constante muito pequena, como $\alpha=0.0001, \beta=0.0001$ , apenas para garantir que $\alpha$ e posteriores $\beta$ sejam $>0$ .

Alguém sabe se essa abordagem é aceitável? Vejo efeitos numéricos de alterar essas anteriores, mas alguém poderia me dar uma espécie de interpretação de colocar pequenas constantes como essas como anteriores?

— Mateus
fonte

Para amostras grandes com muitos acertos e erros, faz pouca diferença. Para amostras pequenas, especialmente se não houver pelo menos uma ocorrência e uma falha, isso faz uma grande diferença; até o tamanho da sua "constante muito pequena" pode ter um impacto substancial. Gostaria de sugerir o experimento chave pensamento para você poderia ser o tipo de posterior faz sentido depois de um tamanho de amostra de

: isso pode persuadi-lo de que algo como o Jeffrey s antes é razoável

1

$1$

— Henry

E há um artigo que Kerman sugere 1/3 e 1/3, b

— Björn

O que você quer dizer com "efeito mínimo nos resultados posteriores"? Comparado com o que?

— Will

Aprimorei a formatação e o título da sua pergunta, fique à vontade para reverter ou alterar as edições.

— Tim

Antes de tudo, não existe algo que não seja informativo antes . Abaixo, você pode ver as distribuições posteriores resultantes de cinco anteriores "não informativos" diferentes (descritos abaixo do gráfico), dados diferentes. Como você pode ver claramente, a escolha de priores "não informativos" afetou a distribuição posterior, especialmente nos casos em que os dados em si não forneciam muita informação .

Priores "não informativos" para distribuição beta compartilham a propriedade de que , o que leva à distribuição simétrica, e , as escolhas comuns: são uniformes (Bayes-Laplace) anteriores ( ), Jeffreys antes ( ), "neutro" antes ( ) proposto por Kerman (2011), antes de Haldane ( $\alpha = \beta$ $\alpha \le 1, \beta \le 1$ $\alpha = \beta = 1$ $\alpha = \beta = 1/2$ $\alpha = \beta = 1/3$ $\alpha = \beta = 0$ ), ou a sua aproximação ( com ) (ver também o $\alpha = \beta = \varepsilon$ $\varepsilon > 0$ ótimo artigo da Wikipedia ).

Parâmetros da distribuição beta prévia são comumente considerados como "pseudocontagens" de sucessos ( ) e falhas ( ) desde a distribuição posterior do modelo beta-binomial após observar sucessos em $\alpha$ $\beta$ $y$ $n$ ensaios é

θ ∣ y \sim B (α + y, β + n - y)

$\theta \mid y \sim \mathcal{B}(\alpha + y, \beta + n - y)$

portanto, quanto mais altos forem, mais influentes serão no posterior. Portanto, ao escolher você assume que "viu" antecipadamente um sucesso e uma falha (isso pode ou não ser muito dependendo de ). $\alpha,\beta$ $\alpha=\beta=1$ $n$

À primeira vista, Haldane antes, parece ser o mais "não informativo", pois leva à média posterior, exatamente igual à estimativa de máxima verossimilhança

\frac{α + y}{α + y + β + n - y} = y / n

$\frac{\alpha + y}{\alpha + y + \beta + n - y} = y / n$

No entanto, leva a distribuições posteriores inadequadas quando ou $y=0$ $y=n$ , o que levou Kernal et al a sugerir seus próprios antecedentes, que produzem mediana posterior o mais próximo possível da estimativa de probabilidade máxima, ao mesmo tempo distribuição adequada.

Há uma série de argumentos a favor e contra cada um dos anteriores "não informativos" (ver Kerman, 2011; Tuyl et al, 2008). Por exemplo, como discutido por Tuyl et al,

. . . deve-se tomar cuidado com valores de parâmetros abaixo de , tanto para os antecedentes não informativos quanto para os informativos, pois esses concentrados concentram sua massa próximo de e / ou $1$ $0$ $1$ e podem suprimir a importância dos dados observados.

Por outro lado, o uso de anteriores uniformes para conjuntos de dados pequenos pode ser muito influente (pense nisso em termos de pseudocontagens). Você pode encontrar muito mais informações e discussões sobre esse tópico em vários artigos e manuais.

Desculpe, mas não há nenhum único "melhor", "menos informativo" ou "one-size-fitts-all" anteriores. Cada um deles traz algumas informações para o modelo.

Kerman, J. (2011). Distribuições neutras beta e gama conjugadas não informativas e informativas neutras. Revista Eletrônica de Estatística, 5, 1450-1470.

Tuyl, F., Gerlach, R. e Mengersen, K. (2008). Uma comparação de Bayes-Laplace, Jeffreys e outros priores. The American Statistician, 62 (1): 40-44.

— Tim
fonte