Terminologia para Média Bayesiana de Probabilidade Posterior com Uniforme Anterior

Se Uniforme e Bin , a média posterior de é dada por . $p \sim$ $(0,1)$ $X \sim$ $(n, p)$ $p$ $\frac{X+1}{n+2}$

Existe um nome comum para esse estimador? Descobri que resolve muitos problemas das pessoas e gostaria de poder apontar as pessoas para uma referência, mas não consegui encontrar o nome certo para ela.

Lembro-me vagamente que isso foi chamado de algo como o "estimador + 1 / + 2" em um livro de estatísticas 101, mas esse não é um termo muito pesquisável.

bayesian terminology laplace-smoothing

— Cliff AB
fonte

Respostas:

Com antes $\mathsf{Unif}(0,1) \equiv \mathsf{Beta}(\alpha_0=1,\beta_0 =1)$ e probabilidade $\mathsf{Binom}(n, \theta)$ mostrando $x$ sucessos em $n$ ensaios, a distribuição a posteriori é $\mathsf{Beta}(\alpha_n=1 + x,\; \beta_n = 1 + n - x).$ (Isso é facilmente visto multiplicando os núcleos do anterior e a probabilidade de obter o núcleo do posterior.)

Então a média posterior é

μ_{n} = \frac{α_{n}}{α_{n} + β} = \frac{x + 1}{n + 2} .

$\mu_n = \frac{\alpha_n}{\alpha_n+\beta} = \frac{x+1}{n+2}.$

Em um contexto bayesiano, apenas o uso da terminologia média posterior pode ser melhor. (A mediana da distribuição posterior e o máximo de seu PDF também foram usados para resumir as informações posteriores.)

Notas: (1) Aqui você está usando como uma distribuição anterior não informativa. Por sólidas bases teóricas, alguns estatísticos bayesianos preferem usar o Jeffreys prior como um prior não informativo. Então a média posterior é $\mathsf{Beta}(1,1)$ $\mathsf{Beta}(\frac 1 2, \frac 1 2)$ $\mu_n = \frac{x+.5}{n+1}.$

(2) Ao fazer intervalos de confiança freqüentes, Agresti e Coull sugeriram "adicionar dois sucessos e duas falhas" à amostra para obter um intervalo de confiança com base no estimador que tem probabilidades de cobertura mais precisas (do que o intervalo Wald tradicional usandoDavid Moore chamou esse estimador de mais-quatro em alguns de seus textos estatísticos elementares amplamente usados, e a terminologia foi usada por outros. Não ficaria surpreso ao ver seu estimador chamado 'mais dois' e Jeffries 'chamado' mais um '. $\hat p = \frac{x+2}{n+4},$ $\hat p = \frac x n).$

(3) Todos esses estimadores têm o efeito de "encolher o estimador em direção a 1/2" e, portanto, foram chamados de "estimadores de encolhimento" (um termo que é muito mais amplamente usado, principalmente na inferência de James-Stein). Consulte Resposta (+1) de @Taylor.

— BruceET
fonte

Relacionado - stats.stackexchange.com/questions/185221 .

— Royi 08/02/19

sim, mas como isso ajuda na terminologia ?

— BruceET 8/02/19

Ajuda com a derivação que você escreveu é fácil. Acho que algumas pessoas podem encontrar essa pergunta procurando a derivação em si.

— Royi 08/02/19

(2) é realmente o que me interessava. Não sabia que o estimador era apresentado para justificativas puramente freqüentistas. Nos casos em que o prescrevo como solução, é sempre algo como calcular uma probabilidade quando um determinado multinomial não foi visto antes (ou seja, agrupar nas contagens de letras e um cluster não incluir "z" s), portanto, nada com probabilidades de cobertura de ICs. Obrigado!

— Cliff AB

(0, 1) .

$(0,1).$

Isso é chamado de suavização de Laplace , ou regra de sucessão de Laplace , como Pierre-Simon Laplace usou para estimar a probabilidade de o sol nascer novamente amanhã: "Assim, descobrimos que um evento ocorreu várias vezes, a probabilidade de que ocorra novamente. a próxima vez é igual a esse número aumentado pela unidade, dividido pelo mesmo número aumentado por duas unidades ".

Ensaio filosófico sobre as probabilidades do marquês de Laplace

— Xi'an
fonte

(+1) para referência histórica

— BruceET

(+1) As respostas desta e de @ BruceET foram diferentes, mas as respostas corretas para minha pergunta.

— Cliff AB

$.5$

— Taylor
fonte

(+1) Isso é verdade, é um estimador de retração. Eu queria um nome específico para o caso binomial / multinomial, para que eu possa apontar outros pesquisadores para o material exatamente nesse estimador, para que eles não pensem que eu estou apenas dizendo "adicione 1 às coisas até que você obtenha a resposta desejada", mas também não precisa começar do começo para explicar o que são as estatísticas bayesianas.

— Cliff AB