Existência de momento gerando função e variância

Uma distribuição com média finita e variação infinita pode ter uma função geradora de momentos? Que tal uma distribuição com média finita e variação finita, mas infinitos momentos mais altos?

variance moments mgf

— Mgf
fonte

Dica : Se o mgf existe em um intervalo em torno de zero, digamos para alguns , considere a expansão de Taylor de e a monotonicidade da integral para descobrir a solução. :)

(- t_{0}, t_{0})

$(-t_0,t_0)$

t_{0} > 0

$t_0 > 0$

e^{x}

$e^x$

— cardeal

Ignorando as questões de convergência (pensando apenas no mgf como uma série formal de poder), qual poderia ser o mgf se algum momento deixasse de existir?

— whuber

Cardeal, você pode nos dar algumas referências sobre as proposições que você forneceu?

Esta pergunta oferece uma boa oportunidade para coletar alguns fatos sobre funções geradoras de momento ( mgf ).

Na resposta abaixo, fazemos o seguinte:

Mostre que se o mgf é finito por pelo menos um valor (estritamente) positivo e um valor negativo, todos os momentos positivos de são finitos (incluindo momentos não íntegros). $X$
Prove que a condição no primeiro item acima é equivalente à distribuição de com caudas delimitadas exponencialmente . Em outras palavras, as caudas de caem pelo menos tão rápido quanto as de uma variável aleatória exponencial (até uma constante). $X$ $X$ $Z$
Forneça uma nota rápida sobre a caracterização da distribuição por seu mgf, desde que satisfaça a condição do item 1.
Explore alguns exemplos e contra-exemplos para ajudar nossa intuição e, principalmente, para mostrar que não devemos ler importância indevida na falta de finitude do mgf.

Esta resposta é bastante longa, pela qual peço desculpas antecipadamente. Se isso estiver melhor colocado, por exemplo, como um post de blog ou outro local, fique à vontade para fornecer esse feedback nos comentários.

O que o mgf diz sobre os momentos?

O mgf de uma variável aleatória é definido como . Observe que sempre existe, pois é parte integrante de uma função mensurável não negativa. No entanto, se não for finito . Se for finito (nos lugares certos), para todos (não necessariamente um número inteiro), os momentos absolutos (e, portanto, também são finito). Este é o tópico da próxima proposição. $X \sim F$ $m(t) = \mathbb E e^{tX}$ $m(t)$ $p > 0$ $\mathbb E |X|^p < \infty$ $\mathbb E X^p$

Proposição : Se existir e modo que e , então os momentos de todas as ordens de existem e são finitos. $\newcommand{\tn}{t_{n}}\newcommand{\tp}{t_{p}}\tn < 0$ $\tp > 0$ $m(\tn) < \infty$ $m(\tp) < \infty$ $X$

Antes de mergulhar em uma prova, aqui estão dois lemas úteis.

Lema 1 : Suponha que tais e existam. Então, para qualquer , . Prova . Isto decorre da convexidade de e da monotonicidade da integral. Para qualquer , existe tal que . Mas, então Portanto, pela monotonicidade da integral, . $\tn$ $\tp$ $t_0 \in [\tn,\tp]$ $m(t_0) < \infty$
$e^x$ $t_0$ $\theta \in [0,1]$ $t_0 = \theta \tn + (1-\theta) \tp$

e^{t_{0} X} = e^{θ t_{n} X + (1 - θ) t_{p} X} \leq θ e^{t_{n} X} + (1 - θ) e^{t_{p} X} .

$e^{t_0 X} = e^{\theta \tn X + (1-\theta) \tp X} \leq \theta e^{\tn X} + (1-\theta) e^{\tp X} \>.$

E e^{t_{0} X} \leq θ E e^{t_{n} X} + (1 - θ) E e^{t_{p} X} < \infty

$\mathbb E e^{t_0 X} \leq \theta \mathbb E e^{\tn X} + (1-\theta) \mathbb E e^{\tp X} < \infty$

Portanto, se o mgf é finito em dois pontos distintos, é finito para todos os valores no intervalo entre esses pontos.

Lema 2 ( Aninhamento de espaços $L_p$ ): Para , se , então . Prova : Duas abordagens são dadas nesta resposta e nos comentários associados . $0 \leq q \leq p$ $\mathbb E |X|^p < \infty$ $\mathbb E |X|^q < \infty$

Isso nos dá o suficiente para continuar com a prova da proposição.

Prova da proposição . Se e existem como declarado na proposição, assumindo , sabemos pelo primeiro lema que e . Mas, e o lado direito é composto por termos não negativos, portanto, em particular, para qualquer Agora, supondo . A monotonicidade da integral produz . Portanto, todos $\tn < 0$ $\tp > 0$ $t_0 = \min(-\tn,\tp) > 0$ $m(-t_0) < \infty$ $m(t_0) < \infty$

e^{- t_{0} X} + e^{t_{0} X} = 2 \sum_{n = 0}^{\infty} \frac{t_{0}^{2 n} X^{2 n}}{(2 n)!},

$e^{-t_0 X} + e^{t_0 X} = 2 \sum_{n=0}^\infty \frac{t_0^{2n} X^{2n}}{(2n)!} \>,$

k

$k$

e^{- t_{0 0} X} + e^{t_{0 0} X} \geq 2 t_{0 0}^{2 k} X^{2 k} / (2 k)! .

$e^{-t_0 X} + e^{t_0 X} \geq 2 t_0^{2k} X^{2k}/(2k)! \>.$

E e^{- t_{0} X} + E e^{t_{0} X} < \infty

$\mathbb E e^{-t_0 X} + \mathbb E e^{t_0 X} < \infty$

E X^{2 k} < \infty

$\mathbb E X^{2k} < \infty$ até momentos de são finitos. O lema 2 imediatamente nos permite "preencher as lacunas" e concluir que todos os momentos devem ser finitos.

X

$X$

Resultado

O resultado da questão em questão é que, se algum dos momentos de é infinito ou não existe, podemos concluir imediatamente que o mgf não é finito em um intervalo aberto contendo a origem. (Esta é apenas a afirmação contrapositiva da proposição.) $X$

Assim, a proposição acima fornece a condição "correta" para dizer algo sobre os momentos de base em seu mgf. $X$

Caudas exponencialmente delimitadas e mgf

Proposição : O mgf é finito em um intervalo aberto contendo a origem se, e somente se, as caudas de estiverem exponencialmente delimitadas , ou seja, para alguns e . $m(t)$ $(\tn,\tp)$ $F$ $\mathbb P( |X| > x) \leq C e^{-t_0 x}$ $C > 0$ $t_0 > 0$

Prova . Lidaremos com a cauda direita separadamente. A cauda esquerda é manuseada de maneira completamente análoga.

$(\Rightarrow)$ Suponha que para alguns . Então, a cauda direita de é exponencialmente delimitada ; em outras palavras, existe e tal que Para ver isso, observe que, para qualquer , pela desigualdade de Markov, Tome e para completar esta direcção da prova. $m(t_0) < \infty$ $t_0 > 0$ $F$ $C > 0$ $b > 0$

P (X > x) \leq C e^{- b x} .

$\mathbb P(X > x) \leq C e^{-b x} \>.$

t > 0

$t > 0$

P (X > x) = P (e^{t X} > e^{t x}) \leq e^{- t x} E e^{t X} = m (t) e^{- t x} .

$\mathbb P(X > x) = \mathbb P(e^{tX} > e^{tx}) \leq e^{-tx} \mathbb E e^{t X} = m(t) e^{-t x} \>.$

C = m (t_{0})

$C = m(t_0)$

b = t_{0}

$b = t_0$

$(\Leftarrow)$ Supondo que exista e tal que . Então, para , que a primeira igualdade segue de um fato padrão sobre a expectativa de variáveis aleatórias não-negativas . Escolha qualquer tal que ; então, a integral do lado direito é finita. $C >0$ $t_0 > 0$ $\mathbb P(X > x) \leq C e^{-t_0 x}$ $t > 0$

E e^{t X} = \int_{0 0}^{\infty} P (e^{t X} > y) d y \leq 1 1 + \int_{1 1}^{\infty} P (e^{t X} > y) d y \leq 1 1 + \int_{1 1}^{\infty} C y^{- t_{0 0} / t} d y,

$\mathbb E e^{t X} = \int_0^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty C y^{-t_0/t} \, \mathrm dy \>,$

t

$t$

0 < t < t_{0}

$0 < t < t_0$

Isso completa a prova.

Uma observação sobre a exclusividade de uma distribuição, dada sua mgf

Se o mgf é finito em um intervalo aberto contendo zero, a distribuição associada é caracterizada por seus momentos , ou seja, é a única distribuição com os momentos . Uma prova padrão é curta quando se tem em mãos alguns fatos (relativamente diretos) sobre funções características . Detalhes podem ser encontrados na maioria dos textos de probabilidade modernos (por exemplo, Billingsley ou Durrett). Alguns assuntos relacionados são discutidos nesta resposta . $\mu_n = \mathbb E X^n$

Exemplos e contra-exemplos

( Um ) de distribuição lognormal : é lognormal se para alguma variável aleatória normal . Então com probabilidade um. Como para todos , isso nos diz imediatamente que para todos os . Portanto, o mgf é finito na meia-linha não-negativa . ( NB: Usamos apenas a não-negatividade de para estabelecer esse fato, portanto isso é verdade para todas as variáveis aleatórias não-negativas). $X$ $X = e^Y$ $Y$ $X \geq 0$ $e^{-x} \leq 1$ $x \geq 0$ $m(t) = \mathbb E e^{t X} \leq 1$ $t < 0$ $(-\infty,0]$ $X$

No entanto, para todos os . Tomaremos o lognormal padrão como o caso canônico. Se , . Por alteração de variáveis, temos Para e suficientemente grande , temos pelos limites dados acima. Mas, para qualquer e, portanto, o mgf é infinito para todos os . $m(t) = \infty$ $t > 0$ $x > 0$ $e^{x} \geq 1 + x + \frac{1}{2} x^2 + \frac{1}{6} x^3$

E e^{t X} = (2 π)^{- 1 1 / 2} \int_{- \infty}^{\infty} e^{t e^{você} - {você}^{2} / 2} d você .

$\mathbb E e^{t X} = (2\pi)^{-1/2} \int_{-\infty}^\infty e^{t e^u - u^2/2} \,\mathrm d u \>.$

t > 0

$t > 0$

u

$u$

t e^{u} - u^{2} / 2 \geq t + t u

$t e^u - u^2/2 \geq t+tu$

\int_{K}^{\infty} e^{t + t você} d você = \infty

$\int_{K}^\infty e^{t + tu} \,\mathrm du = \infty$

K

$K$

t > 0

$t > 0$

Por outro lado, todos os momentos da distribuição lognormal são finitos. Portanto, a existência do mgf em um intervalo próximo de zero não é necessária para a conclusão da proposição acima .

( b ) Lognormal simétrico : podemos obter um caso ainda mais extremo "simetrizando" a distribuição lognormal. Considere a densidade para tal que Não é difícil ver à luz do exemplo anterior que o mgf é finito apenas para . No entanto, os momentos pares são exatamente iguais aos do lognormal e os momentos ímpares são zero! Portanto, o mgf não existe em nenhum lugar (exceto na origem onde sempre existe) e, no entanto, podemos garantir momentos finitos de todas as ordens. $f(x)$ $x \in \mathbb R$

f (x) = \frac{1 1}{2 \sqrt{2 π} | x |} e^{- \frac{1 1}{2} (registro | x |)^{2}} .

$f(x) = \frac{1}{2\sqrt{2\pi}|x|} e^{-\frac{1}{2} (\log |x|)^2} \>.$

t = 0

$t = 0$

( c ) Distribuição Cauchy : Essa distribuição também possui um mgf que é infinito para todos os , mas não há momentos absolutos são finitos para . O resultado para o mgf segue para pois para e assim A prova para é análoga. (Talvez um pouco menos conhecido é que os momentos para faz existir para o Cauchy. Veja esta resposta $t \neq 0$ $\mathbb E|X|^p$ $p \geq 1$ $t > 0$ $e^x \geq x^3 / 6$ $x > 0$

E e^{t X} \geq \int_{1 1}^{\infty} \frac{t^{3} x^{3}}{6 π (1 1 + x^{2})} d x \geq \frac{t^{3}}{12 π} \int_{1 1}^{\infty} x d x = \infty .

$\mathbb E e^{tX} \geq \int_1^\infty \frac{t^3 x^3}{6\pi(1+x^2)} \,\mathrm dx \geq \frac{t^3}{12\pi} \int_1^\infty x \,\mathrm dx = \infty \>.$

t < 0

$t < 0$

0 < p < 1

$0 < p < 1$ .)

( d ) Distribuição Half-Cauchy : Se é Cauchy (padrão), chameuma variável aleatória meio Cauchy. Então, é fácil ver no exemplo anterior que para todos os ; ainda, é finito para . $X$ $Y = |X|$ $\mathbb E Y^p = \infty$ $p \geq 1$ $\mathbb E e^{tY}$ $t \in (-\infty,0]$

— cardeal
fonte

Obrigado por postar isso - isso é surpreendentemente fácil de entender, considerando o quão técnico é - bem feito.

— Macro

Você conhece algum resultado sobre o mgf no espaço Hilbert?

— badatmath 04/11