A prova de Bernoulli é o limite do Beta

É claro para mim, pela inspeção, que se corrigirmos (assim, fixar a média) e deixar , a distribuição Beta se aproxima de um Bernoulli ( ) distribuição.$\beta = \frac{1-\mu}{\mu} \alpha$$\alpha \rightarrow 0$$\mu$

Por exemplo:

par(mfrow = c(1, 2),
    oma = c(0, 0, 1.5, 0))
xx = seq(0, 1, length.out = 1000)
mus = c(.2, .7)
for (ii in 1:2) {
  mu = mus[ii]
  matplot(xx, sapply(10^(-1:-5), function(al) 
    pbeta(xx, al, (1-mu)/mu * al)),
    type = 'l', lty = ii,
    main = paste('Mean:', mu),
    ylab = 'Cumulative Probability', xlab = 'x')
}
title('Beta Approaches Bernoulli', outer = TRUE)

Ou seja, se $X \sim B(\alpha, \frac{1-\mu}{\mu} \alpha)$, seu CDF $F_X(x; \alpha, \mu)$satisfaz

$$\lim_{\alpha \rightarrow 0} F_X(x; \alpha, \mu) = 1 - \mu = F_Y(x) \quad \forall x \in (0, 1)$$

Onde Bernoulli ( ) e a convergência não são uniformes. Tentei fazer uma prova mais formal disso, mas não consegui fazer nenhum progresso, mesmo em casos simples (como ). A página da Wikipedia na Beta faz referência ao caso várias vezes sem prova. Talvez eu esteja perdendo algo fácil de fazer a integral ou algum fato sobre a função Beta / Beta incompleta. Qualquer ajuda seria apreciada!$Y \sim$$\mu$$\mu = \frac12$$\mu = \frac12$

A análise pode ser um pouco confusa, principalmente se realizada com rigor total e elementar, mas a ideia é simples e fácil de entender. Concentre-se em pequenas regiões muito próximas de e . À medida que e aproximam de , quase toda a probabilidade de uma distribuição Beta fica localizada nessas regiões. Ao reduzir os tamanhos das regiões, vemos que a distribuição limitadora, se existir, pode ser apenas uma distribuição de Bernoulli. Podemos criar uma distribuição limitadora apenas tornando a abordagem ratio uma constante, exatamente como descrito na pergunta.$0$$1$$\alpha$$\beta$$0$$(\alpha,\beta)$$\alpha:\beta$

O bom dessa análise é que olhar para áreas relativas evita qualquer necessidade de considerar o comportamento da constante de normalização, uma função Beta . Esta é uma simplificação considerável. (Evitar a função Beta é semelhante em espírito à minha análise dos quantis de distribuição Beta em Dois quantis de uma distribuição beta determinam seus parâmetros? )$B(\alpha,\beta)$

Um outro recurso dessa análise é aproximar a função Beta incompleta por integrais simples da forma para constantes . Isso reduz tudo às operações mais elementares de cálculo e desigualdades algébricas.$\int t^c\mathrm{d}t$$c\gt -1$

---

O PDF beta é proporcional aConsidere small e examine as contribuições para a área sob dentro dos três intervalos , e como e cresce pequeno (mas permanece positivo).

$$f(x)=x^{\alpha-1}(1-x)^{\beta-1}.$$ $\epsilon\gt 0$$f$$(0,\epsilon]$$(\epsilon, 1-\epsilon)$$[1-\epsilon, 1)$$\alpha$$\beta$

Eventualmente, e serão menores que : , portanto, terão pólos em e , assim:$\alpha$$\beta$$1$$f$$0$$1$

O gráfico de é a linha azul superior. Comparados a ele, estão os gráficos de (curva vermelha, com um polo apenas em ) e (curva de ouro, com um polo apenas em ) .$f$$x^{\alpha-1}$$0$$(1-x)^{\beta-1}$$1$

O que acontece com as três áreas sob , relativas uma à outra, no limite?$f$

Por uma questão de notação, escreva para a área sob o gráfico de entre e . Estou perguntando sobre os tamanhos relativos de , e .

$$F(x) = \int_0^x f(t)\mathrm{d}t = \int_0^x t^{\alpha-1}(1-t)^{\beta-1}\mathrm{d}t$$ $f$$0$$x$$F(\epsilon)$$F(1-\epsilon)-F(\epsilon)$$F(1)-F(1-\epsilon)$

Vamos estimar essas áreas uma de cada vez, assumindo sempre e e . Sob essas suposições$0 \lt \alpha \lt 1$$0\lt \beta \lt 1,$ $0\lt x \lt 1,$$0\lt \epsilon \lt 1/2$

$$x^{\alpha-1} \gt 1;\quad(1-x)^{\beta-1}\gt 1,$$

$x\to x^{\alpha-1}$ (vermelho) é uma função decrescente em e (dourado) é uma função crescente. $x,$$x\to (1-x)^{\beta-1}$

1. À esquerda, parece que as curvas azul e vermelha se aproximam. De fato, para , as desigualdades anteriores rendem os limitesA integração de cada um entre e é simples e pressiona entre dois limites próximos,$0\lt x \lt \epsilon$

   $$x^{\alpha-1} \lt x^{\alpha-1}(1-x)^{\beta-1} \lt x^{\alpha-1}(1-\epsilon)^{\beta-1}.$$ $0$$\epsilon$$F(\epsilon)$ $$\frac{\epsilon^\alpha}{\alpha} \lt F(\epsilon) \lt (1-\epsilon)^{\beta-1} \frac{\epsilon^\alpha}{\alpha}.\tag{1}$$

2. A mesma análise se aplica ao lado direito, produzindo um resultado semelhante.

3. Como é côncavo, no intervalo do meio ele atinge seus valores extremos nos pontos finais. Consequentemente, a área é menor que a do trapézio medido por esses pontos:$f$$[\epsilon, 1-\epsilon]$

   $$\eqalign{ F(1-\epsilon) - F(\epsilon) &\lt \frac{1}{2}\left(f(\epsilon) + f(1-\epsilon)\right)(1-\epsilon - \epsilon)\\ &= \frac{1-2\epsilon}{2}\left(\epsilon^{\alpha-1}(1-\epsilon)^{\beta-1} + (1-\epsilon)^{\alpha-1}\epsilon^{\beta-1}\right)).\tag{2} }$$

Embora isso ameace ficar confuso, vamos corrigir temporariamente e considerar o que acontece com a razão como e aproximam-se de . Nas expressões e , ambos e abordarão . Assim, os únicos termos que importam no limite são$\epsilon$$(F(1-\epsilon)-F(\epsilon)):F(\epsilon)$$\alpha$$\beta$$0$$(1)$$(2)$$(1-\epsilon)^{\alpha-1}$$(1-\epsilon)^{\beta-1}$$(1-\epsilon)^0=1$

$$\frac{F(1-\epsilon)-F(\epsilon)}{F(\epsilon)} \approx \frac{(\epsilon^{\alpha-1} + \epsilon^{\beta-1})/2}{\epsilon^\alpha / \alpha} = \frac{\alpha}{2\epsilon} + \frac{\alpha}{2\epsilon^{\alpha-\beta}} \approx \frac{\alpha}{\epsilon}\tag{3}$$

porque . Consequentemente, desde , eventualmente a área do meio é inconseqüente em comparação com a área da esquerda.$\alpha-\beta \approx 0$$\alpha\to 0$

O mesmo argumento mostra que, eventualmente, a área do meio está próxima de vezes a área correta, o que também se torna irrelevante. Isto mostra que$\beta/\epsilon$

$(*)$ Não importa o que pode ser, se tomarmos tanto e de ser suficientemente pequeno, então essencialmente toda a área sob está concentrada dentro do intervalo esquerdo e o intervalo certo .$0\lt \epsilon\lt 1/2$ $\alpha$$\beta$$f$$(0,\epsilon)$$(1-\epsilon, 1)$

O resto é fácil: a média estará muito próxima da área próxima ao polo direito (prova: subestime-a substituindo por nas integrais nos intervalos esquerdo e médio e por no intervalo certo, em seguida, superestime-o substituindo por à esquerda, no meio em Ambas as expressões aproximam-se de .) Mas, por as áreas relativas são aproximadamente$xf(x)$$0f(x)$$(1-\epsilon)f(x)$$xf(x)$$\epsilon f(x)$$(1-\epsilon)f(x)$$f(x)$$F(1)-F(1-\epsilon)$$(3),$

$$\frac{F(1)-F(1-\epsilon)}{F(\epsilon)} \approx \frac{\epsilon/\beta}{\epsilon/\alpha} = \frac{\alpha}{\beta}.$$

Mantendo a média constante, essa relação permanece constante, permitindo adicionar mais uma observação a :$(*)$

$(**)$ Se deixarmos e de tal maneira que aproxime de uma constante limitadora , eventualmente a proporção da área à direita da área na esquerda ficará arbitrariamente perto de também.$\alpha\to 0$$\beta\to 0$$\alpha/\beta$$\lambda$$\lambda$

Agora contemple encolhendo para zero. O resultado é que a distribuição limitadora existe e deve ter toda a sua probabilidade concentrada em torno dos valores e : esta é a classe das distribuições de Bernoulli. indica qual: como a distribuição de Bernoulli , cuja média é atribui a probabilidade a e a probabilidade a , a razão deve ser a razão limitante$\epsilon$$0$$1$$(**)$$(p)$$p,$$p$$1$$1-p$$0$$p/(1-p)$$\lambda.$

Na terminologia da pergunta,

$$\lambda = \alpha / \left(\frac{1-\mu}{\mu}\alpha\right) = \frac{\mu}{1-\mu} = \frac{p}{1-p},$$

como reivindicado.