Por que existe -1 na função de densidade de distribuição beta?


18

A distribuição beta aparece em duas parametrizações (ou aqui )

(1)f(x)xα(1x)β

ou aquele que parece ser usado com mais frequência

(2)f(x)xα1(1x)β1

Mas por que exatamente existe " " na segunda fórmula?1

A primeira formulação intuitivamente parece corresponder mais diretamente à distribuição binomial

(3)g(k)pk(1p)nk

mas "visto" da perspectiva dop . Isso é especialmente claro no modelo beta-binomial, em que pode ser entendido como um número anterior de sucessos e é um número anterior de falhas.αβ

Então, por que exatamente a segunda forma ganhou popularidade e qual é a lógica por trás dela? Quais são as conseqüências do uso de qualquer uma das parametrizações (por exemplo, para a conexão com a distribuição binomial)?

Seria ótimo se alguém pudesse apontar adicionalmente as origens dessa escolha e os argumentos iniciais para ela, mas isso não é uma necessidade para mim.


3
Uma razão profunda é sugerida nesta resposta : f é igual a xα(1x)β relação à medida dμ=dx/((x(1x)) . Isso reduz sua pergunta a "por que essa medida específica "? Reconhecendo que esta medida é
dμ=d(log(x1x))
sugere que a maneira "correta" de entender essas distribuições é aplicar a transformação logística: os termos "1" desaparecerão.
whuber

1
Eu acho que a verdadeira razão pela qual isso aconteceu é histórica - porque aparece dessa maneira na função beta para a qual a distribuição é nomeada. Quanto à razão que tem 1 no poder, espero que acabaria por ser ligado à razão whuber menciona (embora historicamente não tem nada a ver com a medida ou mesmo probabilidade).
Glen_b -Reinstala Monica

2
@Glen_b É mais do que histórico: existem razões profundas. Eles são, devido à ligação íntima entre as funções Beta e Gama, reduzindo a questão de porque o expoente em Γ(s)=0ts1etdt é s1 e não s . Isso porque Γ é uma soma de Gauss . Equivalentemente, é "correto" visualizar Γ como parte integrante de um homomorfismo multiplicativo tts vezes um caracter aditivotet contra a medida de Haardt/t no grupo multiplicativoR× .
whuber

1
@wh Essa é uma boa razão pela qual a função gama deve ser escolhida dessa maneira (e eu já sugeri que essa razão existia acima e aceito alguma forma de raciocínio semelhante a essa - mas necessariamente com formalismo diferente - foi escolhida por Euler); razões correspondentes convincentes ocorrem com a densidade; mas isso não estabelece que esse foi realmente o motivo da escolha (por que o formulário foi escolhido como era), apenas que é um bom motivo para fazê-lo. A forma da função gama ...
ctd

1
ctd ... sozinho poderia facilmente ser motivo suficiente para escolher esse formulário para a densidade e para outros seguirem o exemplo. [Muitas vezes, as escolhas são feitas por razões mais simples que as que podemos identificar posteriormente e, em seguida, são necessárias razões convincentes para fazer qualquer outra coisa. Sabemos que foi por isso que foi escolhido inicialmente?] - você explica claramente que há uma razão pela qual devemos escolher a densidade para ser assim, e não por que é assim. Isso envolve uma sequência de pessoas fazendo escolhas (para usar dessa maneira e seguir o exemplo), e seus motivos na hora que escolheram.
Glen_b -Reinstala Monica

Respostas:


9

Esta é uma história sobre graus de liberdade e parâmetros estatísticos e por que é bom que os dois tenham uma conexão direta direta.

Historicamente, os termos " " apareceram nos estudos de Euler da função Beta. Ele usava essa parametrização em 1763, assim como Adrien-Marie Legendre: o uso deles estabeleceu a convenção matemática subsequente. Este trabalho antecede todas as aplicações estatísticas conhecidas.1

A teoria matemática moderna fornece amplas indicações, através das inúmeras aplicações em análise, teoria dos números e geometria, de que os termos " " realmente têm algum significado. Eu esbocei alguns desses motivos nos comentários à pergunta.1

De mais interesse é o que deveria ser a parametrização estatística "certa". Isso não é tão claro e não precisa ser o mesmo que a convenção matemática. Existe uma enorme rede de famílias comumente usadas, conhecidas e inter-relacionadas de distribuições de probabilidade. Portanto, as convenções usadas para nomear (ou seja, parametrizar) uma família geralmente implicam convenções relacionadas para nomear famílias relacionadas. Altere uma parametrização e você desejará alterá-las todas. Podemos, portanto, olhar para esses relacionamentos em busca de pistas.

Poucas pessoas discordariam que as famílias de distribuição mais importantes derivam da família Normal. Recorde-se que uma variável aleatória é dito ser "Normalmente distribuído" quando ( X - μ ) / σ tem uma densidade de probabilidade f ( x ) proporcional a exp ( - x 2 / 2 ) . Quando σ = 1 e μ = 0 , diz-se que X tem uma distribuição normal padrão .X(Xμ)/σf(x)exp(x2/2)σ=1μ=0X

Muitos conjuntos de dados são estudados usando estatísticas relativamente simples envolvendo combinações racionais dos dados e baixas potências (normalmente quadrados). Quando esses dados são modelados como amostras aleatórias de uma distribuição Normal - de modo que cada x i é visto como uma realização de uma variável Normal X i , todos os X i compartilham uma distribuição comum e são independentes - as distribuições dessas estatísticas são determinados por essa distribuição normal. Os que surgem mais frequentemente na prática sãox1,x2,,xnxiXiXi

  1. ,adistribuição t de Studentcom ν = n - 1 "graus de liberdade". Esta é a distribuição da estatística t = ˉ Xtνtν=n1 onde ˉ X =(X1+X2++Xn)/nmodela a média dos dados ese(X)=(1/

    t=X¯se(X)
    X¯=(X1+X2++Xn)/n é o erro padrão da média. A divisão porn-1mostra quendeve ser2ou maior, de ondevé um número inteiro1ou maior. A fórmula, embora aparentemente um pouco complicada, é a raiz quadrada de uma função racional dos dados do segundo grau: é relativamente simples.se(X)=(1/n)(X12+X22++Xn2)/(n1)X¯2n1n2ν1
  2. ,adistribuição χ 2 (qui-quadrado)com ν "graus de liberdade" (df). Esta é a distribuição da soma dos quadrados de ν variáveis ​​normais padrão independentes. A distribuição da média dos quadrados dessas variáveis ​​será, portanto, χχν2χ2ννdistribuição 2 escalada em 1 / ν : vou me referir a isso como umadistribuição χ 2 "normalizada".χ21/νχ2

  3. ,adistribuição da razão F com os parâmetros ( ν 1 , ν 2 ) é a razão de duasvariáveisnormalizadas independentesFν1,ν2F(ν1,ν2)distribuições χ 2com ν 1 e ν 2 graus de liberdade.χ2ν1ν2

Cálculos matemáticos mostram que todas essas três distribuições têm densidades. Importante, a densidade dodistribuição χ 2 ν é proporcional ao integrando na definição integral de Euler da função Gamma ( Γ ). Vamos compará-los:χν2Γ

fχν2(2x)xν/21ex;fΓ(ν)(x)xν1ex.

Isso mostra que duas vezes uma variável tem uma distribuição gama com o parâmetro ν / 2 . O fator da metade é bastante incômodo, mas subtrair 1 tornaria o relacionamento muito pior. Isso já fornece uma resposta convincente à pergunta: se queremos que o parâmetro de um χ 2 de distribuição para contar o número de variáveis normais quadrados que o produzem (até um factor de 1 / 2 ), então o expoente em sua função de densidade must ser um a menos da metade dessa contagem. χν2ν/21χ21/2

Por que é o fator de menos problemático do que uma diferença de 1 ? A razão é que o fator permanecerá consistente quando somarmos as coisas. Se a soma dos quadrados de n normais normais independentes for proporcional a uma distribuição gama com parâmetro n (vezes algum fator), então a soma dos quadrados de m normais normais independentes é proporcional a uma distribuição gama com parâmetro m (vezes o mesmo fator) , onde a soma dos quadrados de todas as variáveis n + m é proporcional a uma distribuição gama com o parâmetro m + n (ainda é o mesmo fator). 1/21nnmmn+mm+nO fato de adicionar os parâmetros emular tanto a adição de contagens é muito útil.

Se, no entanto, formos remover esse " " de aparência traquina das fórmulas matemáticas, esses bons relacionamentos se tornarão mais complicados. Por exemplo, se alterássemos a parametrização das distribuições Gama para nos referirmos à potência real de x na fórmula, de modo que uma distribuição χ 2 1 estaria relacionada a uma distribuição "Gama ( 0 ) " (uma vez que a potência de x em sua PDF é 1 - 1 = 0 ), então a soma de três χ1xχ12(0)x11=0distribuições 2 1 teria que ser chamada de "Gama(2)χ12(2)"distribuição. Em suma, a estreita relação aditiva entre graus de liberdade e o parâmetro nas distribuições Gamma seria perdida removendo o da fórmula e absorvendo-o no parâmetro.1

Da mesma forma, a função de probabilidade de uma distribuição da razão está intimamente relacionada às distribuições Beta. De fato, quando Y tem uma distribuição de razão F , a distribuição de Z = ν 1 Y / ( ν 1 Y + ν 2 ) tem um Beta ( ν 1 /FYFZ=ν1Y/(ν1Y+ν2) de distribuição. Sua função de densidade é proporcional a(ν1/2,ν2/2)

fZ(z)zν1/21(1z)ν2/21.

Além disso - tomando essas idéias em um círculo completo - o quadrado de uma distribuição Student com ν df tem uma distribuição de razão F com parâmetros ( 1 , ν ) . Mais uma vez, é evidente que manter a parametrização convencional mantém uma relação clara com as contagens subjacentes que contribuem para os graus de liberdade.tνF(1,ν)

Do ponto de vista estatístico, então, seria mais natural e simples de usar uma variação das parametrizações matemáticas convencionais de e distribuição beta: devemos preferir chamar um Γ ( α ) de distribuição de um " Γ ( 2 α ) de distribuição" e a distribuição beta ( α , β ) deve ser chamada de "distribuição beta ( 2 α , 2 β ) ". De fato, já fizemos isso: é exatamente por isso que continuamos a usar os nomes "Qui-quadrado" e " FΓΓ(α)Γ(2α)(α,β)(2α,2β)F distribuição "Razão " em vez de "Gama" e "Beta". Independentemente, em nenhum caso gostaríamos de remover os termos " " que aparecem nas fórmulas matemáticas de suas densidades.1 Se o fizéssemos, perderíamos a conexão direta entre os parâmetros nas densidades e as contagens de dados às quais eles estão associados: sempre estaríamos desligados por um.


1
Obrigado pela sua resposta (já tenho +1 d). Tenho apenas uma pequena pergunta de acompanhamento: talvez esteja faltando alguma coisa, mas não estamos sacrificando a relação direta com o binômio usando a parametrização -1?
Tim

Não sei a qual "relação direta com o binômio" você está se referindo, Tim. Por exemplo, quando a distribuição Beta é usada como um conjugado anterior para uma amostra Binomial, claramente os parâmetros são exatamente os corretos a serem usados: você adiciona a (não a - 1 ) ao número de sucessos eb (não b - 1 ) para o número de falhas. (a,b)aa1bb1
whuber

1

A notação está enganando você. Há um "escondido " na fórmula ( 1 ) , porque em ( 1 ) , α e β deve ser maior do que - 1 (o segundo link que você forneceu na sua pergunta diz isso explicitamente). Os α 'e β ' nas duas fórmulas não são os mesmos parâmetros; eles têm faixas diferentes: em ( 1 ) , α , β > - 1 e em ( 2 ) , α , β1(1)(1)αβ1αβ(1)α,β>1(2) . Esses intervalos paraα,β>0 e β são necessários para garantir que a integral da densidade não diverja. Para ver isso, considere em ( 1 ) o caso α = - 1 (ou menos) e β = 0 e tenteintegrara densidade (núcleo da) entre 0 e 1 . Equivalentemente, tente o mesmo em ( 2 ) para α = 0 (ou menos) e β = 1 .αβ(1)α=1β=001(2)α=0β=1


2
A questão de uma gama de definições para e β parece desaparecer quando a integral é interpretada, como Pochhammer fez em 1890, como uma integral de contorno específica. Nesse caso, pode ser equiparado a uma expressão que determina uma função analítica para todos os valores de α e β - incluindo todos os complexos. Isso lança luz sobre a preocupação na pergunta: por que exatamente essa parametrização específica foi adotada, considerando que existem muitas outras parametrizações possíveis que parecem servir igualmente bem? αβαβ
whuber

1
To me, the OP's doubt seems to be much more basic. He's kind of confused about the "-1" in (2), but not in (1) (not true, of course). It seems that your comment is answering a different question (much more interesting, by the way).
Zen

2
Thanks for your effort and answer, but it still does not answer my main concern: why -1 was chosen? Following your logic, basically any value could be chosen changing the arbitrary lower bound to something else. I can't see why -1 or 0 could be better or worse lower bound for parameter values besides the fact that 0 is "aesthetically" nicer bound. On another hand, Beta(0, 0) would be nice "default" for uniform distribution when using the first form. Yes, those are very subjective comments, but that is my main point: are there any non-arbitrary reasons for such choice?
Tim

1
Zen, I agree there was a question of how to interpret the original post. Thank you, Tim, for your clarifications.
whuber

1
Hi, Tim! I don't see any definitive reason, although it makes more direct the connection with the fact that for α,β>0, if UGamma(α,1) and VGamma(β,1) are independent, then X=U/(U+V) is Beta(α,β), and the density of X is proportional to xα1(1x)β1. But then you can question the parameterization of the gamma distribution...
Zen

0

For me, the existence of -1 in the exponent is related with the develpment of the Gamma function. The motivation of the Gamma function is to find a smooth curve to connect the points of a factorial x!. Since it is not possible to compute x! directly if x is not integer, the idea was to find a function for any x0 that satisfies the recurrence relation defined by the factorial, namely

f(1)=1f(x+1)=xf(x).

Solution was by means of the convergence of an integral. For the function defined as

f(x+1)=0txexdt,

integration by parts provides the following:

f(x+1)=0txexdt=[txex]0+0xtx1exdt=limx(txex)0e0+x0tx1exdt=00+x0tx1exdt=xf(x).

So, the function above satisfies this property, and the -1 in the exponent derives from the procedure of integration by parts. See the Wikipedia article https://en.wikipedia.org/wiki/Gamma_function .

Edit: I apologise if my post is not fully clear; I am just trying to point that, in my idea, the existence of -1 in the beta distribution comes from the generalisation of the factorial by means of the Gamma function. There are two conditions: f(1)=1 and f(x+1)=xf(x). We have Γ(x)=(x1)!, therefore it satisfies Γ(x+1)=xΓ(x)=x(x1)!=x!. In addition, we have Γ(1)=(11)!=0!=1. As for the beta distribution with parameters α,β, generalisation of the Binomial coefficient is Γ(α+β)Γ(α)Γ(β)=(α+β1)!(α1)!(β1)!. There we have the -1 in the denominator, for both parameters.


This makes no sense because the recurrence function satisfied by the factorial is not what you state: (x+1)!xx!.
whuber

The function f(x) satisfying the recurrence relation is the Gamma: Γ(x+1)=xΓ(x). This is how it is defined.
aatr

Yes: but your stated motivation is based on the factorial function, not the Gamma.
whuber

It is important to recall the relation between Gamma and factorial: Γ(x)=(x1)!.
aatr

Unfortunately, that's circular logic: you start off with the factorial, characterize Gamma as interpolating it, and then conclude that's why there's a -1. In fact, your post exhibits the -1 as if it fell out mistakenly by confusing Gamma with the factorial. Few will find that either illuminating or convincing.
whuber
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.