sobre independência condicional e sua representação gráfica

Ao estudar a seleção de covariância, li uma vez o exemplo a seguir. Com relação ao seguinte modelo:

Sua matriz de covariância e matriz de covariância inversa são dadas a seguir,

Eu não entendo por que a independência dos e é decidido pelo covariância inversa aqui?$x$$y$

Qual é a lógica matemática subjacente a esse relacionamento?

Além disso, o gráfico esquerdo na figura a seguir é reivindicado para capturar a relação de independência entre e ; porque?$x$$y$

A matriz de covariância inversa pode ser usada para calcular variações e covariâncias condicionais para distribuições gaussianas multivariadas. Uma pergunta anterior fornece algumas referências

Por exemplo, para encontrar a covariância condicional de e com o valor , você pegaria o canto inferior direito da matriz de covariância inversa$Y$$Z$$X=x$

$$\left( \begin{array}{rr} 1 & -1 \\ -1 & 3 \end{array} \right) \text{ and re-invert it to }\left( \begin{array}{rr} \tfrac32 & \tfrac12 \\ \tfrac12 & \tfrac12 \end{array} \right)$$

o que de fato fornece a matriz de covariância de e condicionada ao valor de .$Y$$Z$$X=x$

Portanto, da mesma forma, para encontrar a matriz de covariância condicional de e dado o valor de , você levaria o canto superior esquerdo da matriz de covariância inversa$X$$Y$$Z=z$

$$\left( \begin{array}{cc} 1 & 0 \\ 0 & 1 \end{array} \right) \text{ and re-invert it to }\left( \begin{array}{cc} 1 & 0 \\ 0 & 1 \end{array} \right)$$

dizendo que a covariância condicional entre e dada é (e que cada uma de suas variações condicionais é ). $X$$Y$$Z=z$$0$$1$

Para concluir que essa covariância condicional zero implica independência condicional, você também deve usar o fato de ser uma gaussiana multivariada (como em geral a covariância zero não implica necessariamente independência). Você sabe disso da construção.

Pode-se argumentar que você também conhece a independência condicional da construção, uma vez que é informado que e são iid, portanto, condicionados a um valor específico para , e também são iid . Se você sabe , não há nenhuma informação adicional do que ajuda você a dizer nada sobre possíveis valores de .$\epsilon_1$$\epsilon_2$$Z=z$$X=z+\epsilon_1$$Y=z+\epsilon_2$$Z=z$$X$$Y$

Este é um complemento para a resposta correta e aceita. Em particular, a pergunta original contém uma pergunta de acompanhamento sobre a afirmação que o livro faz.

Além disso, o gráfico à esquerda na figura a seguir é reivindicado para capturar a relação de independência entre e , por que? $X$$Y$

É isso que é abordado nesta resposta e é a única coisa abordada nesta resposta.

Para garantir que estamos na mesma página, a seguir, uso esta definição de gráfico de independência condicional (não direcionada) que corresponde (pelo menos aproximadamente) aos campos aleatórios de Markov:

Definição: O gráfico independência condicional de é o gráfico não dirigida onde e é não no conjunto de arestas se e somente se . (Onde denota o vetor de todas as variáveis ​​aleatórias, exceto e .)$X$$G=(K,E)$$K=\{ 1, 2, \dots, k \}$$(i,j)$$X_i \perp \! \! \! \perp X_j | X_{K \setminus \{i,j\}}$$X_{K \setminus \{i,j\}}$$X_i$$X_j$

Da p. 60 de Whittaker, Modelos Gráficos em Estatística Multivariada Matemática Aplicada (1990).

Aqui, usando o argumento dado por Henry na resposta correta e aceita, podemos estabelecer que e são condicionalmente independentes, dado , na notação .$X$$Y$$Z$$X \perp \! \! \perp Y \ | Z$

Como as únicas três variáveis ​​aleatórias são e , isso significa que e são condicionalmente independentes quando recebem todas as outras variáveis ​​aleatórias restantes (neste caso, apenas ).$X, Y$$Z$$X$$Y$$Z$

Utilizando a definição do gráfico de independência condicional dada acima, isto significa que todas as arestas do gráfico deve ser incluídas excepto para a borda entre e . De fato, é exatamente isso que é mostrado no gráfico correto dessa imagem.$X$$Y$

Em relação ao gráfico esquerdo, não é claro sem ter mais contexto, mas acho que a idéia é apenas mostrar como seria o gráfico de independência condicional se não tivéssemos zeros nessas entradas da matriz de covariância inversa.

Em particular, usando a definição acima, vemos que podemos começar com o gráfico completo nos nós , que é o gráfico esquerdo nessa imagem, e derivar o gráfico de independência condicional desse primeiro gráfico, removendo todos os arestas correspondentes a variáveis ​​aleatórias condicionalmente independentes. A figura compara os dois gráficos explicitamente ("versus"), o que para mim sugere uma comparação entre o gráfico completo com o qual podemos começar e o gráfico de independência condicional que termina com se / quando eles aplicam a definição de gráfico de independência condicional, conforme indicado acima.$X, Y, Z$