Pode-se calcular a autocorrelação de matrizes de covariância amostradas pelo MCMC?

Imagine que nós amostramos uma matriz de covariância de uma distribuição Wishart do MCMC.

A cada iteração, obtemos uma nova matriz de amostra da distribuição Wishart. $S_i$

Pergunta : Dado o rastreamento que contém todas as amostras , posso plotar a autocorrelação dessas amostras? $S_1,...S_n$

Eu vi alguém usando a correlação automática de $\log(\det(S))$ , mas não encontrei justificativa.

bayesian autocorrelation mcmc

— Alberto
fonte

Do jeito que eu vejo, ao desenhar matrizes de uma distribuição Wishart, você está realmente desenhando variáveis aleatórias univariadas especificamente relacionadas a cada etapa do tempo. seja, apenas a parte de qualquer [= parte triangular superior] é aleatória e a simetria fornece o resto. Em outras palavras, a autocorrelação é definida em pares para quaisquer duas entradas do vetores e para qualquer . Obviamente, isso deixa você com um número possivelmente inviável de $p \times p$ $S_1, S_2, \dots S_n$ $p\cdot (p+1)/2$ $\text{vech}(S_i)$ $S_i$ $p\cdot (p+1)/2$ $\text{vech}(S_i)$ $\text{vech}(S_{i-h})$ $h>0$ $(p\cdot (p+1)/2)^2$ autocorrelações univariadas para rastrear, e como as entradas de cada serão totalmente relacionadas entre si (veja, por exemplo, a definição dada por meio de desenhos normais aqui: https://en.wikipedia.org/ wiki / Wishart_distribution ), eu poderia muito bem imaginar que você descarta informações fazendo essa análise univariada. Dito isto, as autocorrelações univariadas podem ser calculadas em termos de entrada, definindo primeiro Claramente, $\text{vech}(S_i)$

\begin{aligned} \bar{S} & = \frac{1}{n} \sum_{i = 1}^{n} vech (S_{i}) \\ \bar{S_{h}} & = \frac{1}{n - h} \sum_{i = h + 1}^{n} vech (S_{i}) vech (S_{i - h})^{T} . \end{aligned}

$\begin{align} \bar{S} &= \frac{1}{n}\sum_{i=1}^n \text{vech}(S_i) \\ \bar{S_h} & = \frac{1}{n-h}\sum_{i=h+1}^n \text{vech}(S_i)\text{vech}(S_{i-h})^T. \end{align}$

\bar{S}

$\bar{S}$ é um estimador natural para a parte triangular superior da expectativa (que você pode substituir pela verdadeira expectativa da sua distribuição Wishart, se for conhecida por você). Da mesma forma, é um estimador natural para o momento . Por fim, observando que chega-se às estimativas de para via Como mencionado anteriormente, isso fornece a você

{\bar{S}}_{h}

$\bar{S}_h$

E (vech (S_{i}) vech (S_{i - h})^{T})

$\mathbb{E}(\text{vech}(S_i)\text{vech}(S_{i-h})^T)$

\begin{aligned} Cov (vech (S_{i}) vech (S_{i - h})^{T}) = E (vech (S_{i}) vech (S_{i - h})^{T}) - E (vech (S_{i})) E (vech (S_{i}))^{T}, \end{aligned}

$\begin{align} \text{Cov}(\text{vech}(S_i)\text{vech}(S_{i-h})^T) = \mathbb{E}(\text{vech}(S_i)\text{vech}(S_{i-h})^T) - \mathbb{E}(\text{vech}(S_i))\mathbb{E}(\text{vech}(S_i))^T, \end{align}$

A (h)

$A(h)$

vech (S_{i})

$\text{vech}(S_i)$

\begin{aligned} A (h) & = {\bar{S}}_{h} - \bar{S} {\bar{S}}^{T} . \end{aligned}

$\begin{align} A(h) &= \bar{S}_h - \bar{S}\bar{S}^T. \end{align}$

(p \cdot (p + 1) / 2)^{2}

$(p\cdot (p+1)/2)^2$ autocorrelações de cada entrada da matriz Wishart com as entradas da matriz Wishart. Se houver muita informação para exibir, acho que uma estratégia que você poderia adotar seria definir a série temporal univariada ou seja, você simplesmente calcula a média do valor absoluto da autocorrelação.Se você se importa apenas com autocorrelações positivas e não acha que a autocorrelação negativa é prejudicial, poupe valor absoluto. Da mesma forma, se você acha que a autocorrelação ao longo da diagonal é pior que a diagonal ou o contrário, você pode adicionar pesos

\begin{aligned} a (h) & = \frac{1}{(p \cdot (p + 1) / 2)^{2}} \sum_{i = 1}^{(p \cdot (p + 1) / 2} \sum_{j = 1}^{(p \cdot (p + 1) / 2} | A (h)_{i j} |, \end{aligned}

$\begin{align} a(h) &= \frac{1}{(p\cdot (p+1)/2)^2}\sum_{i=1}^{(p\cdot (p+1)/2}\sum_{j=1}^{(p\cdot (p+1)/2}|A(h)_{ij}|, \end{align}$

w_{i j}

$w_{ij}$ que levam em conta essa 'função de perda'.

— Jeremias K
fonte