Função geradora de momento do produto interno de dois vetores aleatórios gaussianos

Alguém pode sugerir como calcular a função geradora de momento do produto interno de dois vetores aleatórios gaussianos, cada um distribuído como , independente um do outro? Existe algum resultado padrão disponível para isso? Qualquer ponteiro é muito apreciado. $\mathcal N(0,\sigma^2)$

— abhibhat
fonte

Endereço Primeiro vamos caso $\Sigma = \sigma\mathbb{I}$ . No final, está a (fácil) generalização para arbitrário $\Sigma$ .

Comece observando que o produto interno é a soma das variáveis iid, cada uma delas o produto de duas variáveis normais normais $(0,\sigma)$ , reduzindo assim a questão de encontrar o mgf deste último, porque o mgf de uma soma é o produto dos mgfs.

O mgf pode ser encontrado por integração, mas há uma maneira mais fácil. Quando $X$ e $Y$ são padrão normal,

X Y = ((X + Y) / 2)^{2} - ((X - Y) / 2)^{2}

$XY = ((X+Y)/2)^2 - ((X-Y)/2)^2$

é uma diferença de duas variáveis qui-quadrado em escala independentes. (O factor de escala é , porque as variações de igual a ). Devido a mgf de uma variável de qui-quadrado é $1/2$ $(X\pm Y)/2$ $1/2$ , o mgf deé $1/\sqrt{1 - 2\omega}$ $((X+Y)/2)^2$ e o mgf de é $1/\sqrt{1-\omega}$ $-((X-Y)/2)^2$ . Multiplicando, descobrimos que o mgf desejado é igual a $1/\sqrt{1+\omega}$ . $1/\sqrt{1-\omega^2}$

(Para referência posterior, observe que quando e são redimensionados por , o produto é escalonado em , de onde deve ser escalonado em ) $X$ $Y$ $\sigma$ $\sigma^2$ $\omega$ $\sigma^2$

Isso deve parecer familiar: até alguns fatores constantes e um sinal, parece a densidade de probabilidade de uma distribuição t de Student com graus de liberdade. (De fato, se estivéssemos trabalhando com funções características em vez de mgfs, obteríamos $0$ , que é ainda mais próximo do PDF de um aluno t.) Não importa que não exista um aluno t comdfs - tudo o que importa é que o mgf seja analítico em uma vizinhança dee isso claramente é (pelo Teorema Binomial). $1/\sqrt{1 + \omega^2}$ $0$ $0$

Conclui-se imediatamente que a distribuição do produto interno desses vetores gaussianos iid possui mgf igual ao produto vezes desse mgf, $n$ $n$

(1 - ω^{2} σ^{4})^{- n / 2}, n = 1, 2, \dots .

$(1 - \omega^2 \sigma^4)^{-n/2}, \quad n=1, 2, \ldots.$

Ao olhar para cima a função característica da distribuição t de Student, deduzimos (com um pouquinho de álgebra ou uma integração de encontrar a constante de normalização) que o próprio PDF é dada por

f_{n, σ} (x) = \frac{2^{\frac{1 - n}{2}} | x |^{\frac{n - 1}{2}} K_{\frac{n - 1}{2}} (\frac{| x |}{σ^{2}})}{\sqrt{π} σ^{4} Γ (\frac{n}{2})}

$f_{n,\sigma}(x) = \frac{2^{\frac{1-n}{2}} |x|^{\frac{n-1}{2}} K_{\frac{n-1}{2}}\left(\frac{|x|}{\sigma ^2}\right)}{\sqrt{\pi } \sigma ^4 \Gamma \left(\frac{n}{2}\right)}$

( é uma função de Bessel). $K$

Por exemplo, aqui é uma trama de PDF que sobreposto ao histograma de uma amostra aleatória de tais produtos internos onde e : $10^5$ $\sigma=1/2$ $n=3$

Histograma

É mais difícil confirmar a precisão do mgf de uma simulação, mas observe (do Teorema Binomial) que

(1 + t^{2} σ^{4})^{- 3 / 2} = 1 - \frac{3 σ^{4} t^{2}}{2} + \frac{15 σ^{8} t^{4}}{8} - \frac{35 σ^{12} t^{6}}{16} + \frac{315 σ^{16} t^{8}}{128} + \dots,

$(1 + t^2 \sigma^4)^{-3/2} = 1-\frac{3 \sigma ^4 t^2}{2}+\frac{15 \sigma ^8 t^4}{8}-\frac{35 \sigma ^{12} t^6}{16}+\frac{315 \sigma ^{16} t^8}{128}+\ldots,$

a partir do qual podemos ler os momentos (divididos por fatoriais). Devido à simetria de , apenas os momentos pares são importantes. Para obtém-se os seguintes valores, ao ser comparado com os momentos matérias desta simulação: $0$ $\sigma=1/2$

 k    mgf           simulation/k!
 2    0.09375       0.09424920
 4    0.00732422    0.00740436
 6    0.00053406    0.00054128
 8    0.00003755    0.00003674
10    2.58 e-6      2.17 e-6

Como era de se esperar, os momentos altos da simulação começarão a partir dos momentos dados pelo mgf; mas pelo menos até o décimo momento, há um excelente acordo.

Aliás, quando a distribuição é bi-exponencial. $n=2$

Para lidar com o caso geral, comece observando que o produto interno é um objeto independente de coordenadas. Podemos, portanto, tomar as principais direções (vetores próprios) de como coordenadas. Nestas coordenadas do produto interno é a soma dos independentes produtos de independente normal variates, cada componente de distribuição com uma variância igual ao seu valor próprio associado. Assim, deixando que os autovalores diferentes de zero sejam (com ), o mgf deve ser igual a $\Sigma$ $\sigma_1^2, \sigma_2^2, \ldots, \sigma_d^2$ $0 \le d \le n$

{(\prod_{i = 1}^{d} (1 - ω^{2} σ_{i}^{4}))}^{- 1 / 2} .

$\left(\prod_{i=1}^d (1 - \omega^2\sigma_i^4)\right)^{-1/2}.$

$\Sigma$

(\begin{array}{ccc} 1 & \frac{1}{2} & - \frac{1}{8} \\ \frac{1}{2} & 1 & - \frac{1}{4} \\ - \frac{1}{8} & - \frac{1}{4} & \frac{1}{2} \end{array})

$\left( \begin{array}{ccc} 1 & \frac{1}{2} & -\frac{1}{8} \\ \frac{1}{2} & 1 & -\frac{1}{4} \\ -\frac{1}{8} & -\frac{1}{4} & \frac{1}{2} \end{array} \right)$

e calculou que seus valores próprios são

(σ_{1}^{2}, σ_{2}^{2}, σ_{3}^{2}) = (\frac{1}{16} (17 + \sqrt{65}), \frac{1}{16} (17 - \sqrt{65}), \frac{3}{8}) \approx (1.56639, 0.558609, 0.375) .

$\left(\sigma_1^2, \sigma_2^2, \sigma_3^2\right) = \left(\frac{1}{16} \left(17+\sqrt{65}\right),\frac{1}{16} \left(17-\sqrt{65}\right),\frac{3}{8}\right)\approx \left(1.56639,0.558609,0.375\right).$

$10^6$ $X_i$ $(0,\Sigma)$ $10^6$ $Y_i$ $10^6$ $X_i\cdot Y_i$ $-12$ $15$

Histograma e PDF

Como antes, o acordo é excelente. Além disso, os momentos correspondem bem ao oitavo e razoavelmente bem, mesmo no décimo:

 k    mgf           simulation/k!
 2     1.45313       1.45208
 4     2.59009       2.59605
 6     5.20824       5.29333
 8    11.0994       11.3115
10    24.4166       22.9982

Termo aditivo

(Adicionado em 9 de agosto de 2013.)

$f_{n,\sigma}$ $0$ $0$ $\sigma^2$ $n/2$

— whuber
fonte

Σ

$\Sigma$

Eu adicionei uma nova seção para fornecer alguns dos detalhes (fáceis) dessa generalização, para deixar claro que nada de novo está envolvido aqui. Você também pode usar propriedades básicas de mgfs para anotar o mgf no caso em que os dados também tenham meios diferentes de zero, resolvendo o problema com total generalidade.

— whuber