Simule a partir de uma distribuição normal de mistura truncada

Quero simular uma amostra de uma distribuição normal de mistura, de modo que

p \times N (μ_{1}, σ_{1}^{2}) + (1 - p) \times N (μ_{2}, σ_{2}^{2})

$p\times\mathcal{N}(\mu_1,\sigma_1^2) + (1-p)\times\mathcal{N}(\mu_2,\sigma_2^2)$

é restrito ao intervalo vez de . Isso significa que eu quero simular uma mistura truncada de distribuições normais. $[0,1]$ $\mathbb{R}$

Eu sei que há algum algoritmo para simular um normal truncado (ou seja, desta pergunta ) e o pacote correspondente em R para fazer isso. Mas como posso simular uma mistura truncada normal? É o mesmo se eu simular duas normais truncadas de e ) para normalizar uma mistura truncada? $\mathcal{N}(\mu_1,\sigma_1^2)$ $\mathcal{N}(\mu_2,\sigma_2^2$

— Alexy
fonte

Se estiver no intervalo de unidades, por que não usar betas em vez de normais? Para , a distribuição é simétrica e unimodal e limitada no intervalo da unidade.

α = β > 1

$\alpha=\beta>1$

— Sycorax diz Restabelecer Monica

Se você não precisa que suas simulações sejam muito rápidas, você pode fazê-lo usando a amostragem por rejeição: (1) amostra da mistura de duas normais, (2) se não estiver em , volte para passo 1, (3) saída . (mas user777 está certo, você tem uma boa razão para escolher esta distribuição em vez de uma mistura de betas?)

x

$x$

x

$x$

[0, 1]

$[0,1]$

x

$x$

— Elvis

@ user777 uma mistura Gaussiana truncada tem uma distribuição diferente de uma distribuição Beta e não pode ser trocada apenas porque você pode impor simetria e o mesmo suporte.

— Mjnichol 11/05

A simulação de um normal truncado é feita facilmente se você tiver acesso a uma função quantil normal adequada. Por exemplo, em R, simulando , onde e significam os limites inferiores e superiores podem ser feitas invertendo a CDF por exemplo, em R

N_{a}^{b} (μ, σ^{2})

$\mathcal{N}_a^b(\mu,\sigma^2)$

a

$a$

b

$b$

\frac{Φ (σ^{- 1} {x - μ}) - Φ (σ^{- 1} {a - μ})}{Φ (σ^{- 1} {b - μ}) - Φ (σ^{- 1} {a - μ})}

$\dfrac{\Phi(\sigma^{-1}\{x-\mu\})-\Phi(\sigma^{-1}\{a-\mu\})}{\Phi(\sigma^{-1}\{b-\mu\})-\Phi(\sigma^{-1}\{a-\mu\})}$

x = mu + sigma * qnorm( pnorm(a,mu,sigma) + 
     runif(1)*(pnorm(b,mu,sigma) - pnorm(a,mu,sigma)) )

Caso contrário, desenvolvi um algoritmo normal de aceitação / rejeição truncado há vinte anos.

Se considerarmos o problema de mistura truncada, com densidade é uma mistura de distribuições normais truncadas, mas com pesos diferentes : Portanto, para simular a partir de um normal truncado mistura, é suficiente tomar

f (x; θ) \propto {p φ (x; μ_{1}, σ_{1}) + (1 - p) φ (x; μ_{2}, σ_{2})} I_{[a, b]} (x)

$f(x;\theta) \propto \left\{p\varphi(x;\mu_1,\sigma_1)+(1-p)\varphi(x;\mu_2,\sigma_2)\right\}\mathbb{I}_{[a,b]}(x)$

f (x; θ) \propto p {Φ (σ_{1}^{- 1} {b - μ_{1}}) - Φ (σ_{1}^{- 1} {a - μ_{1}})} \frac{σ_{1}^{- 1} ϕ (σ_{1}^{- 1} {x - μ_{1}})}{Φ (σ_{1}^{- 1} {b - μ_{1}}) - Φ (σ_{1}^{- 1} {a - μ_{1}})} + (1 - p) {Φ (σ_{2}^{- 1} {b - μ_{2}}) - Φ (σ_{2}^{- 1} {a - μ_{2}})} \frac{σ_{2}^{- 1} ϕ (σ_{2}^{- 1} {x - μ_{2}})}{Φ (σ_{2}^{- 1} {b - μ_{2}}) - Φ (σ_{1}^{- 1} {a - μ_{2}})}

$f(x;\theta) \propto p\left\{\Phi(\sigma_1^{-1}\{b-\mu_1\})-\Phi(\sigma_1^{-1}\{a-\mu_1\}) \right\}\dfrac{\sigma_1^{-1}\phi(\sigma_1^{-1}\{x-\mu_1\})}{\Phi(\sigma_1^{-1}\{b-\mu_1\})-\Phi(\sigma_1^{-1}\{a-\mu_1\})} \\[15pt] +(1-p)\left\{\Phi(\sigma_2^{-1}\{b-\mu_2\})-\Phi(\sigma_2^{-1}\{a-\mu_2\}) \right\}\dfrac{\sigma_2^{-1}\phi(\sigma_2^{-1}\{x-\mu_2\})}{\Phi(\sigma_2^{-1}\{b-\mu_2\})-\Phi(\sigma_1^{-1}\{a-\mu_2\})}$

x = {\begin{cases} x_{1} \sim N_{a}^{b} (μ_{1}, σ_{1}^{2}) & with probability \\ p {Φ (σ_{1}^{- 1} {b - μ_{1}}) - Φ (σ_{1}^{- 1} {a - μ_{1}})} / s \\ x_{2} \sim N_{a}^{b} (μ_{2}, σ_{2}^{2}) & with probability \\ (1 - p) {Φ (σ_{2}^{- 1} {b - μ_{2}}) - Φ (σ_{2}^{- 1} {a - μ_{2}})} / s \end{cases}

$x=\begin{cases} x_1\sim\mathcal{N}_a^b(\mu_1,\sigma_1^2) &\text{with probability }\\ &\qquad p\left\{\Phi(\sigma_1^{-1}\{b-\mu_1\})-\Phi(\sigma_1^{-1}\{a-\mu_1\}) \right\}\big/\mathfrak{s}\\ x_2\sim\mathcal{N}_a^b(\mu_2,\sigma_2^2) &\text{with probability }\\ &\qquad(1-p)\left\{\Phi(\sigma_2^{-1}\{b-\mu_2\})-\Phi(\sigma_2^{-1}\{a-\mu_2\}) \right\}\big/\mathfrak{s} \end{cases}$ onde

\begin{aligned} s = & p {Φ (σ_{1}^{- 1} {b - μ_{1}}) - Φ (σ_{1}^{- 1} {a - μ_{1}})} + \\ (1 - p) {Φ (σ_{2}^{- 1} {b - μ_{2}}) - Φ (σ_{2}^{- 1} {a - μ_{2}})} \end{aligned}

$\begin{align} \mathfrak{s}=&p\left\{\Phi(\sigma_1^{-1}\{b-\mu_1\})-\Phi(\sigma_1^{-1}\{a-\mu_1\}) \right\}+ \\ &(1-p)\left\{\Phi(\sigma_2^{-1}\{b-\mu_2\})-\Phi(\sigma_2^{-1}\{a-\mu_2\}) \right\} \end{align}$

— Xi'an
fonte

Por que não podemos simplesmente tirar a amostra da primeira normal com probabilidade p e da segunda distribuição com probabilidade 1 - p?

— Mjnichol 11/05

Ah! Eu acho que vejo o problema. Isso ocorre porque a distribuição inteira está sendo truncada, e não cada distribuição separadamente. Se cada subdistribuição da mistura fosse truncada individualmente antes de ser adicionada à mistura, poderíamos simplesmente amostrar da distribuição de acordo com os pesos relativos de cada subdistribuição, certo?

— Mjnichol 11/05

@mjnichol É uma mistura, mas com diferentes pesos que o e .

p

$p$

1 - p

$1-p$

— Xian

@ Xi'an: Suponha que consideremos uma configuração ligeiramente diferente: e se, em vez de construir a distribuição da mistura a partir de Gaussianos ponderados e depois truncar, em vez disso, misturássemos dois Gaussianos já truncados (com o mesmo suporte). Se os gaussianos fossem truncados antes da mistura, poderíamos amostrar a partir da distribuição, amostrando o primeiro gaussiano truncado com probabilidade p e o segundo com probabilidade 1 - p?

— Mjnichol 12/05

@mjnichol: nesse caso, você teria então sim, de fato isso funcionaria.

p N_{a}^{b} (μ_{1}, σ_{1}^{2}) + (1 - p) N_{a}^{b} (μ_{2}, σ_{2}^{2})

$p\mathcal{N}_a^b(\mu_1,\sigma_1^2)+(1-p)\mathcal{N}_a^b(\mu_2,\sigma_2^2)$

— Xian