O que seria um exemplo de um modelo realmente simples com uma probabilidade intratável?

A computação bayesiana aproximada é uma técnica muito interessante para ajustar basicamente qualquer modelo estocástico, destinado a modelos em que a probabilidade é intratável (por exemplo, você pode fazer uma amostra do modelo se fixar os parâmetros, mas não puder calcular numericamente, algoritmicamente ou analiticamente ). Ao introduzir a computação bayesiana aproximada (ABC) a uma audiência, é bom usar algum modelo de exemplo que seja realmente simples, mas ainda um pouco interessante e que tenha uma probabilidade intratável.

Qual seria um bom exemplo de um modelo realmente simples que ainda tem uma probabilidade intratável?

— Rasmus Bååth
fonte

Seu exemplo de meias é realmente simples e quase intratável ...

— Xian

Ps: O exemplo de meias link ...

— Xian

Bem, eu esperava que as meias fossem intratáveis, mas você provou que não era, certo? :)

— Rasmus Bååth

Essa é uma boa pergunta! Existem vários exemplos de brinquedos na literatura, mas eles parecem um pouco artificiais para mim. Seria bom ter um modelo realmente simples motivado por um aplicativo real com uma probabilidade intratável. Eu me lembro de ver David Cox presente algo ao longo destas linhas, mas eu não vi publicou ...

— Dennis Prangle

Respostas:

Duas distribuições que são muito usadas na literatura são:

A distribuição g-e-k. Isso é definido por sua função quantil (cdf inverso), mas tem uma densidade intratável. Rayner e MacGillivray (2002) são uma boa visão geral deles, e um dos muitos trabalhos da ABC que o utilizam como exemplo de brinquedo é Drovandi e Pettitt (2011) .
Distribuições alfa estáveis. Eles são definidos por sua função característica, mas possuem uma densidade intratável, exceto em alguns casos especiais. Isso tem aplicações em finanças e é frequentemente usado em artigos ABC sequenciais, por exemplo Yildirim et al (2013) .

— Dennis Prangle
fonte

Q (você; UMA, B, g, k) = UMA + B [1 + c \frac{1 - \exp {- g Φ (você)}}{1 + \exp {- g Φ (você)}}] {1 + Φ (você)^{2}}^{k} Φ (você)

$Q(u;A,B,g,k)=A + B\left[1+c\dfrac{1-\exp\{-g\Phi(u)\}}{1+\exp\{-g\Phi(u)\}}\right]\{1+\Phi(u)^2\}^k\Phi(u)$

α

$\alpha$

Alguém poderia adicionar exemplos de situações que alguém modelaria com essas distribuições?

— conjectures

Um exemplo que eu vim algumas semanas atrás e, por sua simplicidade, é o seguinte: dado um conjunto de dados normal original

x_{1}, ..., x_{n} \overset{iid}{\sim} N (θ, σ^{2}),

$x_1,\ldots,x_n\stackrel{\text{iid}}{\sim}\text{N}(\theta,\sigma^2)\,,$ os dados relatados são (infelizmente!) feitos do resumo bidimensional

S (x_{1}, ..., x_{n}) = (med (x_{1}, ..., x_{n}), louco (x_{1}, ..., x_{n})),

$S(x_1,\ldots,x_n)=(\text{med}(x_1,\ldots,x_n),\text{mad}(x_1,\ldots,x_n))\,,$ que não é suficiente e que não possui uma densidade de junta de forma fechada.

— Xi'an
fonte

Só porque a densidade da junta é complicada de escrever, não significa que ela não tenha uma forma fechada! "Intratável" está começando a parecer uma questão de opinião neste tópico. Talvez você possa esclarecer isso explicando o que você entende por "intratável"?

— whuber

Como não conheço ninguém que possa calcular essa densidade, eu a chamo de intratável ... Como não tenho um programa de computador que possa produzir o valor numérico dessa probabilidade, sou forçado a usar um algoritmo ABC.

— Xian

O ABC não calcula a probabilidade, mas usa simulações dos dados para fornecer uma amostra de parâmetros que é uma aproximação do verdadeiro posterior. No final do dia / computação, não sou mais sábio sobre a função de probabilidade e não consigo produzir um valor numérico para

L (θ | x_{1}, \dots, x_{n})

$L(\theta|x_1,\ldots,x_n)$ .

— Xian

@whuber Se alguém pudesse calcular com êxito a probabilidade, o exemplo não seria muito adequado para demonstrar um algoritmo para aproximar posteriores sem calcular a probabilidade

\times

$\times$ produtos anteriores.

— Juho Kokkala

@whuber Eu acho que a sua interpretação (2) no comentário que começa "O que eu estou querendo saber" é pelo menos essencialmente a pretendida. No entanto, não entendo sua última observação "a menos que o algoritmo ABC esteja demorando muito para ser executado" - o ponto da questão é que a avaliação de probabilidade dispendiosa será evitada usando o ABC.

— Juho Kokkala