Quando preferir a função geradora de momento à função característica?

Seja um espaço de probabilidade e deixe seja um vetor aleatório. Seja a distribuição de , uma medida Borel em . $(\Omega, \mathcal{F}, P)$ $X : \Omega \to \mathbb{R}^n$ $P_X = X_* P$ $X$ $\mathbb{R}^n$

A função característica de é a função definida para (a variável aleatória é limitada, portanto, em para todos os ). Esta é a transformação de Fourier de . $X$ $φ_{X} (t) = E [e^{Eu t \cdot X}] = \int_{Ω} e^{Eu t \cdot X} d P,$ $\varphi_X(t) = E[e^{i t \cdot X}] = \int_\Omega e^{i t \cdot X} \, dP,$ $t \in \mathbb{R}^n$ $e^{i t \cdot X}$ $L^1(P)$ $t$ $P_X$
A função geradora de momento ( mgf ) de é a função definida para todos os para o qual a integral acima existe . Essa é a transformação de Laplace de . $X$ $M_{X} (t) = E [e^{t \cdot X}] = \int_{Ω} e^{t \cdot X} d P,$ $M_X(t) = E[e^{t \cdot X}] = \int_\Omega e^{t \cdot X} \, dP,$ $t \in \mathbb{R}^n$ $P_X$

Já podemos ver que a função característica é definida em todos os lugares em , mas o mgf possui um domínio que depende de e esse domínio pode ser apenas (isso acontece, por exemplo, para uma variável aleatória distribuída por Cauchy). $\mathbb{R}^n$ $X$ $\{0\}$

Apesar disso, funções características e mgf's compartilham muitas propriedades, por exemplo:

Se são independentes, então para todos os , e para todos os para os quais existem mgf . $X_1, \ldots, X_n$ $φ_{X_{1} + \dots + X_{n}} (t) = φ_{X_{1}} (t) \dots φ_{X_{n}} (t)$ $\varphi_{X_1 + \cdots + X_n}(t) = \varphi_{X_1}(t) \cdots \varphi_{X_n}(t)$ $t$ $M_{X_{1} + \dots + X_{n}} (t) = M_{X_{1}} (t) \dots M_{X_{n}} (t)$ $M_{X_1 + \cdots + X_n}(t) = M_{X_1}(t) \cdots M_{X_n}(t)$ $t$
Dois vetores aleatórios e têm a mesma distribuição se e somente se para todos os . O mgf analógico desse resultado é que, se para todos os em alguma vizinhança de , e têm a mesma distribuição. $X$ $Y$ $\varphi_X(t) = \varphi_Y(t)$ $t$ $M_X(t) = M_Y(t)$ $t$ $0$ $X$ $Y$
Funções características e mgfs de distribuições comuns geralmente têm formas semelhantes. Por exemplo, se ( dimensional normal com média e matriz de covariância ), então e $X \sim N_n(\mu, \Sigma)$ $n$ $\mu$ $\Sigma$ $φ_{X} (t) = \exp (Eu μ \cdot t - \frac{1}{2} t \cdot (Σ t))$ $\varphi_X(t) = \exp\left(i \mu\cdot t - \frac{1}{2} t \cdot (\Sigma t)\right)$ $M_{X} (t) = \exp (μ \cdot t - \frac{1}{2} t \cdot (Σ t)) .$ $M_X(t) = \exp\left(\mu\cdot t - \frac{1}{2} t \cdot (\Sigma t)\right).$
Quando algumas suposições suaves são válidas, tanto a função característica quanto a mgf podem ser diferenciadas para calcular os momentos.
O teorema da continuidade de Lévy fornece um critério para determinar quando uma sequência de variáveis aleatórias converge na distribuição para outra variável aleatória usando a convergência das funções características correspondentes. Existe um teorema correspondente para mgf ( Curtiss 1942, Teorema 3 ).

Dado que funções características e mgf's são freqüentemente usadas para o mesmo propósito e o fato de que uma função característica sempre existe enquanto que mgf nem sempre existe, parece-me que é preferível trabalhar com funções características sobre mgf's.

Questões.

Quais são alguns exemplos em que os mgf são mais úteis que as funções características?

O que se pode fazer com um mgf que não se pode fazer com uma função característica?

mgf characteristic-function

— Artem Mavrin
fonte

A chave desta pergunta não é a palavra "introdutória" perto do fim? Faria algum sentido pedagógico introduzir algo que envolva a análise de números complexos em um curso que pressupõe apenas uma exposição mínima ao (e não se sinta confortável com) o cálculo elementar e, muitas vezes, nem isso?

— whuber

@whuber Isso era algo que eu pensava assim, mas eu não quero que a minha pergunta ser sobre pedagogia, então talvez eu deveria remover o último parágrafo

— Artem Mavrin

Uma resposta parcial está aqui: stats.stackexchange.com/questions/304066/…

— kjetil b halvorsen

Respostas:

Essa é uma boa pergunta, mas ampla, por isso não posso prometer que direi tudo sobre isso que deve ser dito. A resposta curta é que as técnicas rivais diferem não no que eles podem fazer, mas em quão bem eles podem fazê-lo.

Funções características requerem cuidado extra devido ao papel de números complexos. Não é que o aluno precise saber sobre números complexos; é que o cálculo envolvido tem armadilhas sutis. Por exemplo, posso obter o MGF de uma distribuição Normal apenas preenchendo o quadrado em uma substituição de deslocamento variável, mas muitas fontes fingem descuidadamente que a abordagem usando funções características é igualmente fácil. Não é, porque a famosa normalização da integral gaussiana não diz nada sobre integração em com . Ah, ainda podemos avaliar a integral se formos cuidadosos com os contornos e, de fato, há uma abordagem ainda mais fácil, na qual mostramos integrando por partes que um $ic+\mathbb{R}$ $c\in\mathbb{R}\backslash\{ 0\}$ $N(0,\,1)$ a função característica da distribuição satisfaz . Mas a abordagem do MGF é ainda mais simples e a maioria das distribuições que os alunos precisam ter no início um MGF convergente em um segmento de linha (por exemplo, Laplace) ou meia-linha (por exemplo, gama, geométrico, binômio negativo) ou todo o (por exemplo, Beta, binomial, Poisson, Normal). De qualquer forma, isso é suficiente para estudar momentos. $\phi (t)$ $\dot{\phi}=-t\phi$ $\mathbb{R}$

Acho que não há nada que você possa fazer apenas com o MGF, mas você usa o que é mais fácil para a tarefa em questão. Aqui está uma para você: qual é a maneira mais fácil de calcular os momentos de uma distribuição Poisson? Eu diria que é usar uma técnica diferente novamente, a função geradora de probabilidade . Então o símbolo Pochhammer em queda fornece . Em geral, geralmente vale a pena usar o PGF para distribuições discretas, o MGF para distribuições contínuas limitadas ou com decaimento superexponencial nas caudas do PDF e a função característica quando você realmente precisa. $G(t)=\mathbb{E}t^X=\exp \lambda (t-1)$ $(X)_k$ $\mathbb{E}(X)_k=G^{(k)}(1)=\lambda^k$

E, dependendo da pergunta que você está fazendo, você pode achar prudente usar a função de geração cumulativa, seja ela definida como o logaritmo do MGF ou CF. Por exemplo, vou deixar como um exercício que a definição de log cumulativos de MGF para o máximo de iids for , que fornece um cálculo muito mais fácil da média e da variação (respectivamente e ) do que se você os tivesse escrito em termos de momentos. $n$ $\operatorname{Exp}(1)$ $\kappa_m=(m-1)!\sum_{k=1}^n k^{-m}$ $\kappa_1$ $\kappa_2$

— JG
fonte

Eu não entendo sua observação sobre "integração em " porque o cf é definido como uma integral de uma função de valor complexo em Ele não precisa ser visto como uma integral de contorno. Para quem não se sente à vontade com números complexos, pode ser visto como um par de integrais reais de qualquer maneira. Não está claro como o mgf é "mais simples" em qualquer aspecto. De fato, o cf é mais simples no sentido de que não é preciso se preocupar com convergência.

i c + R,

$ic+\mathbb R,$

R .

$\mathbb R.$

— whuber

@whuber O que eu quero dizer é .

\int_{R} \frac{1}{\sqrt{2 π}} \exp (- \frac{x^{2}}{2} + i t x) d x = \int_{- i t + R} \frac{1}{\sqrt{2 π}} \exp (- \frac{y^{2}}{2} - \frac{t^{2}}{2}) d t

$\int_{\Bbb R}\frac{1}{\sqrt{2\pi}}\exp (-\frac{x^2}{2}+itx)dx=\int_{-it+\Bbb R}\frac{1}{\sqrt{2\pi}}\exp (-\frac{y^2}{2}-\frac{t^2}{2})dt$

— JG

Eu suspeitava disso. Mas isso não é apenas um artefato de como alguém pode escolher avaliar a integral, em vez de ser qualquer característica inerente da própria cf?

— whuber

@whuber O problema é que muitas fontes fingem que a substituição funciona tão diretamente quanto no caso do MGF, o que não acontece.

— JG

Você se importaria de elaborar um pouco o porquê disso não acontecer? Não vejo nada problemático nesse caso em particular; e, em geral, como a integral original sobre é convergente, não se esperaria nenhum problema com substituições desse tipo.

R

$\mathbb R$

— whuber

Se sua variável aleatória tiver todos os seus momentos, o MGF existe e geralmente é pelo menos tão útil quanto a função característica para provas.

Para responder à sua pergunta, quando existe a MGF, que fornece a base para muitos cálculos extrema de valor relacionadas com $X$ . O mais simples dos quais é (para $t\geq 0$ ),

P (X > r) = P (e^{t X} > e^{t r}) \leq M_{X} (t) / e^{t r} .

$P(X>r)=P(e^{tX}>e^{tr})\leq M_X(t)/e^{tr}.$

Aqui, os rhs agora podem ser minimizados em $t$ . Estranhamente, esse limite é uma das poucas maneiras simples de obter estimativas de eventos raros. A área geral disso é a Teoria dos Grandes Desvios , onde é preciso fazer uma tonelada de trabalho para obter limites melhores (mais rígidos). Um exemplo comum disso é olhar para $S_n=X_1+\cdots + X_n$ , de modo que quando o MGF de $X_1$ existe, é possível mostrar $P(|S_n-E[X]|>nr)$ decai exponencialmente em $n$ . Isso é mais conhecido como Teorema de Cramer .

Aqui estão algumas notas compactas sobre isso.

— Alex R.
fonte

Tudo no seu primeiro parágrafo já está mencionado na pergunta, exceto a última frase, que eu acho falsa. Por exemplo, todos os momentos da distribuição log-normal existem, mas seu mgf é indefinido para qualquer número real positivo. A segunda parte da sua resposta é muito útil porque ele destaca uma aplicação de MGF é que, aparentemente, não tem nenhuma função analógica característica

— Artem Mavrin