Quantificando a dependência de variáveis ​​aleatórias de Cauchy

Dadas duas variáveis ​​aleatórias Cauchy$\theta_1 \sim \mathrm{Cauchy}(x_0^{(1)}, \gamma^{(1)})$ e$\theta_2 \sim \mathrm{Cauchy}(x_0^{(2)}, \gamma^{(2)})$. Isso não é independente. A estrutura de dependência de variáveis ​​aleatórias pode frequentemente ser quantificada com sua covariância ou coeficiente de correlação. No entanto, essas variáveis ​​aleatórias de Cauchy não têm momentos. Assim, covariância e correlação não existem.

Existem outras maneiras de representar a dependência das variáveis ​​aleatórias? É possível estimar aqueles com Monte Carlo?

Só porque eles não têm covariância, não significa que os princípios básicos $x^t\Sigma^{-1} x$estrutura geralmente associada a covariâncias não pode ser usada. De fato, o multivariado ($k$-dimensional) Cauchy pode ser escrito como:

$$f({\mathbf x}; {\mathbf\mu},{\mathbf\Sigma}, k)= \frac{\Gamma\left(\frac{1+k}{2}\right)}{\Gamma(\frac{1}{2})\pi^{\frac{k}{2}}\left|{\mathbf\Sigma}\right|^{\frac{1}{2}}\left[1+({\mathbf x}-{\mathbf\mu})^T{\mathbf\Sigma}^{-1}({\mathbf x}-{\mathbf\mu})\right]^{\frac{1+k}{2}}}$$

que tirei da página da Wikipedia . Este é apenas um aluno multivariado.$t$ distribuição com um grau de liberdade.

Para fins de desenvolvimento da intuição, eu usaria apenas os elementos fora da diagonal normalizados de $\Sigma$como se fossem correlações, mesmo que não sejam. Eles refletem a força da relação linear entre as variáveis ​​de maneira muito semelhante à de uma correlação;$\Sigma$tem que ser simétrico definido positivo; E se$\Sigma$ é diagonal, as variáveis ​​são independentes etc.

A estimativa da máxima verossimilhança dos parâmetros pode ser feita usando o algoritmo EM, que neste caso é facilmente implementado. O log da função de probabilidade é:

$$\mathcal{L}(\mu, \Sigma) = -{n\over 2}|\Sigma| - {k+1 \over 2}\sum_{i=1}^n\log(1+s_i)$$

Onde $s_i = (x_i-\mu)^T\Sigma^{-1}(x_i-\mu)$. A diferenciação leva às seguintes expressões simples:

$$\mu = \sum w_ix_i/\sum w_i$$

$$\Sigma = {1 \over n}\sum w_i(x_i-\mu)(x_i-\mu)^T$$

$$w_i = (1+k)/(1+s_i)$$

O algoritmo EM apenas itera sobre essas três expressões, substituindo as estimativas mais recentes de todos os parâmetros em cada etapa.

Para mais informações, consulte Métodos de estimativa para a distribuição multivariada , Nadarajah e Kotz, 2008.

Enquanto $\text{cov}(X,Y)$ não existe, para um par de variáveis ​​com marginais de Cauchy, $\text{cov}(\Phi(X),\Phi(Y))$ existe para, por exemplo, funções limitadas $\Phi(\cdot)$. Na verdade, a noção de matriz de covariância não é adequada para descrever distribuições conjuntas em todos os cenários, pois não é invariável em transformações.

Emprestando-se do conceito de cópula (que também pode ajudar na definição de uma distribuição conjunta¹ para$(X,Y)$), pode-se transformar $X$ e $Y$ em uniforme $(0,1)$ variáveis, usando seus cdfs marginais, $\Phi_X(X)\sim\mathcal{U}(0,1)$ e $\Phi_Y(Y)\sim\mathcal{U}(0,1)$e observe a covariância ou correlação das variáveis ​​resultantes.

---

Por exemplo, quando $X$ e $Y$ são Cauchys padrão,

$$Z_X=\Phi^{-1}(\{\arg\tan(X)/\pi+1\}/2)$$ é distribuído como um Normal padrão, e a distribuição conjunta de $(Z_X,Z_Y)$ pode ser escolhido para ser uma articulação normal $$(Z_X,Z_Y) \sim \mathcal{N}_2(0_2,\Sigma)$$ Esta é uma cópula gaussiana .