Como determinar quantis (isolinhas?) De uma distribuição normal multivariada

24

insira a descrição da imagem aqui

Estou interessado em saber como calcular um quantil de uma distribuição multivariada. Nas figuras, desenhei os quantis de 5% e 95% de uma determinada distribuição normal univariada (esquerda). Para a distribuição normal multivariada correta, estou imaginando que um análogo seria uma isolina que circunda a base da função densidade. Abaixo está um exemplo da minha tentativa de calcular isso usando o pacote mvtnorm- mas sem sucesso. Suponho que isso possa ser feito calculando um contorno dos resultados da função de densidade multivariada, mas fiquei pensando se há outra alternativa ( por exemplo , analógica de qnorm). Obrigado pela ajuda.

Exemplo:

mu <- 5
sigma <- 2 
vals <- seq(-2,12,,100)
ds <- dnorm(vals, mean=mu, sd=sigma)

plot(vals, ds, t="l")
qs <- qnorm(c(0.05, 0.95), mean=mu, sd=sigma)
abline(v=qs, col=2, lty=2)


#install.packages("mvtnorm")
require(mvtnorm)
n <- 2
mmu <- rep(mu, n)
msigma <- rep(sigma, n)
mcov <- diag(msigma^2)
mvals <- expand.grid(seq(-2,12,,100), seq(-2,12,,100))
mvds <- dmvnorm(x=mvals, mean=mmu, sigma=mcov)

persp(matrix(mvds,100,100), axes=FALSE)
mvqs <- qmvnorm(0.95, mean=mmu, sigma=mcov, tail = "both") #?

#ex. plot   
png("tmp.png", width=8, height=4, units="in", res=400)
par(mfcol=c(1,2))

#univariate
plot(vals, ds, t="l")
qs <- qnorm(c(0.05, 0.95), mean=mu, sd=sigma)
abline(v=qs, col=2, lty=2)

#multivariate
pmat <- persp(seq(-2,12,,100), seq(-2,12,,100), matrix(mvds,100,100), axes=FALSE, shade=TRUE, lty=0)
cont <- contourLines(seq(-2,12,,100), seq(-2,12,,100), matrix(mvds,100,100), levels=0.05^2)
lines(trans3d(cont[[1]]$x, cont[[1]]$y, cont[[1]]$level, pmat), col=2, lty=2)

dev.off()

— Marc na caixa
fonte

3

Uma solução Mathematica é fornecida (e ilustrada para o caso 3D) em mathematica.stackexchange.com/questions/21396/… . Ele reconhece que os níveis de contorno são dados por uma distribuição qui-quadrado.

— whuber

@ whuber - você se importaria de demonstrar o que quer dizer com "... o elipsóide de confiança é um contorno do inverso da matriz de covariância"? Felicidades.

— Marc na caixa

2

Isso é mais fácil de ver em uma dimensão, onde a "matriz de covariância" (para uma distribuição de amostragem) é um número

, então seu inverso é

, pensado como um mapa quadrático em

via

. Um contorno no nível

por definição é o conjunto de

para o qual

; ou seja,

ou equivalentemente

s^{2}

$s^2$

1 / s^{2}

$1/s^2$

R^{1}

$\mathbb{R}^1$

x \to x^{2} / s^{2}

$x\to x^2/s^2$

λ

$\lambda$

x

$x$

x^{2} / s^{2} = λ

$x^2/s^2=\lambda$

x^{2} = λ s^{2}

$x^2=\lambda s^2$

. Quando

é oquantil

de umadistribuição

,

x = \pm \sqrt{λ} s

$x=\pm\sqrt{\lambda}s$

λ

$\lambda$

1 - α

$1-\alpha$

χ^{2} (1)

$\chi^2(1)$

é oquantil

de umadistribuição

, de onde recuperamos os limites de confiança usuais

.

\sqrt{λ}

$\sqrt{\lambda}$

1 - α

$1-\alpha$

t (1)

$t(1)$

\pm t_{1 - α; 1} s

$\pm t_{1-\alpha; 1}s$

— whuber

Você pode usar a primeira fórmula nesta resposta escolhendo

em

para obter a elipse

(a linha tracejada vermelha em suas plotagens) para qualquer

α

$\alpha$

(0, 1)

$(0,1)$

S_{α}

$S_\alpha$

x \in R^{2}

$\mathbf{x}\in \mathbb{R}^2$

— user603

25

A linha de contorno é um elipsóide. O motivo é que você deve examinar o argumento da exponencial, no pdf da distribuição normal multivariada: as isolinhas seriam linhas com o mesmo argumento. Então você obtém onde é a matriz de covariância. Essa é exatamente a equação de uma elipse; no caso mais simples, e é diagonal, então você obtém

(x - μ)^{T} Σ^{- 1} (x - μ) = c

$({\bf x}-\mu)^T\Sigma^{-1}({\bf x}-\mu) = c$

Σ

$\Sigma$

μ = (0, 0)

$\mu=(0,0)$

Σ

$\Sigma$

Se

não for diagonal, diagonalizando você obtém o mesmo resultado.

{(\frac{x}{σ_{x}})}^{2} + {(\frac{y}{σ_{y}})}^{2} = c

$\left(\frac{x}{\sigma_x}\right)^2+\left(\frac{y}{\sigma_y}\right)^2=c$

Σ

$\Sigma$

Agora, você precisaria integrar o pdf do multivariado dentro (ou fora) da elipse e solicitar que isso seja igual ao quantil desejado. Digamos que seus quantis não sejam os habituais, mas elípticos em princípio (ou seja, você está procurando a Região de Maior Densidade, HDR, como a resposta de Tim aponta) Eu mudaria variáveis no pdf para , integrei no ângulo e depois para de a $z^2=(x/\sigma_x)^2+(y/\sigma_y)^2$ $z$ $0$ $\sqrt{c}$ Então você substitutos :

1 - α = \int_{0 0}^{\sqrt{c}} d z \frac{z e^{- z^{2} / 2}}{2 π} \int_{0 0}^{2 π} d θ = \int_{0 0}^{\sqrt{c}} z e^{- z^{2} / 2}

$1-\alpha=\int_0^{\sqrt{c}}dz\frac{z\;e^{-z^2/2}}{2\pi}\int_0^{2\pi}d\theta=\int_0^{\sqrt{c}}z\;e^{-z^2/2}$

s = - z^{2} / 2

$s=-z^2/2$

\int_{0 0}^{\sqrt{c}} z e^{- z^{2} / 2} = \int_{- c / 2}^{0 0} e^{s} d s = (1 - e^{- c / 2})

$\int_0^{\sqrt{c}}z\;e^{-z^2/2}=\int_{-c/2}^{0}e^sds=(1-e^{-c/2})$

$\mu$ $\Sigma$ $-2\ln\alpha$

(x - μ)^{T} Σ^{- 1} (x - μ) = - 2 em α

$({\bf x}-\mu)^T\Sigma^{-1}({\bf x}-\mu) = -2\ln{\alpha}$

— chuse
fonte

4

Você perguntou sobre o normal multivariado, mas iniciou sua pergunta perguntando sobre "quantil de uma distribuição multivariada" em geral. Pela redação da sua pergunta e pelo exemplo fornecido, parece que você está interessado em regiões de maior densidade . Eles são definidos por Hyndman (1996) da seguinte maneira

$f(z)$ $X$ $100( 1 - \alpha )\%$ $R(f_\alpha)$ $X$

$R (f_{α}) = {x : f (x) \geq f_{α}}$ $R(f_\alpha) = \{ x : f(x) \geq f_\alpha\}$
$f_\alpha$ $\Pr(X \in R(f_\alpha)) \geq 1 - a$

$Y = f(x)$ $f_\alpha$ $\Pr(f(x) \geq f_\alpha) \geq 1 - \alpha$ $\alpha$ $Y$ $y_1,...,y_m$ $f(x)$

Hyndman, RJ (1996). Computar e representar graficamente as regiões de maior densidade. The American Statistician, 50 (2), 120-126.

— Tim
fonte

2

$-2*\ln(\alpha)$

\int_{0 0}^{\sqrt{c}} z e^{- z^{2} / 2} = \int_{- c / 2}^{0 0} e^{s} d s = (1 - e^{- c / 2})

$\int_0^\sqrt{c} z e^{-z^2/2} =\int_{-c/2}^0e^sds=(1-e^{-c/2})$

— chunjiw
fonte

1

Você pode desenhar uma elipse correspondente às distâncias de Mahalanobis.

library(chemometrics)
data(glass)
data(glass.grp)
x=glass[,c(2,7)]
require(robustbase)
x.mcd=covMcd(x)
drawMahal(x,center=x.mcd$center,covariance=x.mcd$cov,quantile=0.90)

Ou com círculos em torno de 95%, 75% e 50% dos dados

drawMahal(x,center=x.mcd$center,covariance=x.mcd$cov,quantile=c(0.95,.75,.5))

— margarida
fonte

4

Bem-vindo ao site @ user98114. Você pode fornecer algum texto para explicar o que esse código está fazendo e como ele resolve o problema do OP?

— gung - Restabelece Monica