Isso está correto? (gerando uma norma truncada-multivariada-gaussiana)

Se $X\in\mathbb{R}^n,~X\sim \mathcal{N}(\underline{0},\sigma^2\mathbf{I})$ ou seja,

$$f_X(x) = \frac{1}{{(2\pi\sigma^2)}^{n/2}} \exp\left(-\frac{||x||^2}{2\sigma^2}\right)$$

Eu quero uma versão análoga de uma distribuição normal truncada em um caso multivariado.

Mais precisamente, I quer para gerar uma norma-constrangido (para um valor $\geq a$ ) multivariada Gaussiana $Y$ r

$$f_Y(y) = \begin{cases} c.f_X(y), \text{ if } ||y||\geq a \\[2mm] 0, \text{ otherwise }. \end{cases}$$ onde $c=\frac{1}{Prob\big\{||X||\geq a\big\}}$

---

Agora observo o seguinte:

Se $x=(x_1,x_2,\ldots,x_n)$ , $||x||\geq a$

$\implies |x_n|\geq T\triangleq \sqrt{\max\left(0,\left(a^2-\sum_1^{n-1}x_i^2\right)\right)}$

Portanto, escolhendo como amostras gaussianas, pode-se restringir como uma amostra de uma distribuição normal truncada (seguindo uma distribuição gaussiana ) , exceto pelo sinal escolhido aleatoriamente com probabilidade . x n ≥ T N T ( 0 , σ 2 ) 1 /$x_1,\ldots,x_{n-1}$$x_n$$\geq T$$\mathcal{N}_T(0,\sigma^2)$$1/2$

Agora a minha pergunta é essa,

Se eu gerar cada amostra de vetor de( X 1 , … , X n$(x_1,\ldots,x_n)$$(X_1,\ldots,X_n)$ como,

$x_1,\ldots,x_{n-1}\sim \mathcal{N}(0,\sigma^2)$

e

Z 1 ∼ { ± 1 w.p. 1 / 2 } Z 2 ~ N T ( 0 , σ 2 ) T ( x 1 , ... , x n - 1 ) ≜ $x_n = Z_1 *Z_2~$ onde, , , (ou seja, um VR normal escalar truncado com$~Z_1\sim\{\pm1 ~\text{w.p.}~ 1/2\}$$Z_2\sim\mathcal{N}_T(0,\sigma^2)$$T(x_1,\ldots,x_{n-1})\triangleq \sqrt{\max\left(0,\left(a^2-\sum_1^{n-1}x_i^2\right)\right)}$

Vai ser uma norma-constrangidos ( ) multivariada Gaussian? (ou seja, o mesmo que definido acima). Como devo verificar? Alguma outra sugestão se este não for o caminho?≥ a $(X_1,X_2,\ldots,X_n)$$\geq a$$Y$

EDITAR:

Aqui está um gráfico de dispersão dos pontos no caso 2D com a norma truncada para valores acima de "1"

Nota: Existem ótimas respostas abaixo, mas falta justificativa para o motivo desta proposta estar errada. De fato, esse é o ponto principal desta questão.

A distribuição normal multivariada de é esfericamente simétrica. A distribuição que você procura trunca o raio ρ = | | X | | 2 abaixo em a . Como esse critério depende apenas do comprimento de X , a distribuição truncada permanece esférica simétrica. Como ρ é independente do ângulo esférico X / | | X | | e $X$$\rho=||X||^2$$a$$X$$\rho$$X/||X||$ possui umadistribuição χ ( n ) , portanto, você pode gerar valores a partir da distribuição truncada em apenas algumas etapas simples:$\rho\,\sigma$$\chi(n)$

1. Gere .$X \sim \mathcal{N}(0,\mathbb{I}_n)$

2. Gere como a raiz quadrada de uma distribuição χ 2 ( d ) truncada em ( a / σ ) 2 .$P$$\chi^2(d)$$(a/\sigma)^2$

3. Seja .$Y = \sigma P\, X/||X||$

Na etapa 1, é obtido como uma sequência de d realizações independentes de uma variável normal padrão.$X$$d$

Na etapa 2, é facilmente gerado pela inversão da função quantil F - 1 de uma distribuição χ 2 ( d ) : gere uma variável uniforme U suportada no intervalo (de quantis) entre F ( ( a / σ ) 2 ) e 1 e defina P = $P$$F^{-1}$$\chi^2(d)$$U$$F((a/\sigma)^2)$$1$ .$P = \sqrt{F(U)}$

Aqui está um histograma de tais realizações independentes de σ P para σ = 3 em n = 11 dimensões, truncadas abaixo em a = 7 . Demorou cerca de um segundo para gerar, atestando a eficiência do algoritmo.$10^5$$\sigma P$$\sigma=3$$n=11$$a=7$

A curva vermelha é a densidade de uma distribuição truncada escalada por σ = 3 . Sua correspondência próxima ao histograma é evidência da validade dessa técnica.$\chi(11)$$\sigma=3$

Para obter uma intuição para o truncamento, considere o caso , σ = 1 em n = 2 dimensões. Aqui está um gráfico de dispersão de Y 2 contra Y 1 (para 10 4 realizações independentes). Mostra claramente o furo no raio a :$a=3$$\sigma=1$$n=2$$Y_2$$Y_1$$10^4$$a$

Finalmente, nota que (1) os componentes deve ter distribuições idênticas (devido à simetria esférica) e (2), excepto quando um = 0 , que a distribuição não é comum normal. Na verdade, como uma cresce grande, a queda rápida da (univariada) distribuição normal faz com que a maior parte da probabilidade do multivariada esfericamente normal truncada para aglomerar perto da superfície do n - 1 -sphere (raio de um ). A distribuição marginal deve, portanto, aproximar-se de um Beta simétrico em escala ( ( n - 1 ) / 2 , ( n $X_i$$a=0$$a$$n-1$$a$ distribuição concentrada no intervalo ( - a , a ) . Isso é aparente no gráfico de dispersão anterior, onde a = 3 σ já é grande em duas dimensões: os pontos limitam um anel (umaesfera 2 - 1 ) do raio 3 σ .$((n-1)/2,(n-1)/2)$$(-a,a)$$a=3\sigma$$2-1$$3\sigma$

Aqui estão os histogramas das distribuições marginais a partir de uma simulação de tamanho em 3 dimensões com a = 10 , σ = 1 (para a qual a distribuição Beta ( 1 , 1 ) aproximada é uniforme):$10^5$$3$$a=10$$\sigma=1$$(1,1)$

Como os primeiros marginais do procedimento descrito na pergunta são normais (por construção), esse procedimento não pode estar correto.$n-1$

---

O Rcódigo a seguir gerou a primeira figura. Ele é construído para os passos 1-3 paralelas para gerar . Foi modificado para gerar a segunda figura de variáveis em mudança , , , e e, em seguida, emite o comando de trama depois foi gerado.$Y$adnsigmaplot(y[1,], y[2,], pch=16, cex=1/2, col="#00000010")y

A geração de é modificado no código para uma maior resolução numérica: o código efectivamente gera um - L e usos que a computar P .$U$$1-U$$P$

A mesma técnica de simulação de dados de acordo com um suposto algoritmo, resumindo-os com um histograma e sobrepondo um histograma pode ser usada para testar o método descrito na pergunta. Ele confirmará que o método não funciona conforme o esperado.

a <- 7      # Lower threshold
d <- 11     # Dimensions
n <- 1e5    # Sample size
sigma <- 3  # Original SD
#
# The algorithm.
#
set.seed(17)
u.max <- pchisq((a/sigma)^2, d, lower.tail=FALSE)
if (u.max == 0) stop("The threshold is too large.")
u <- runif(n, 0, u.max)
rho <- sigma * sqrt(qchisq(u, d, lower.tail=FALSE)) 
x <- matrix(rnorm(n*d, 0, 1), ncol=d)
y <- t(x * rho / apply(x, 1, function(y) sqrt(sum(y*y))))
#
# Draw histograms of the marginal distributions.
#
h <- function(z) {
  s <- sd(z)
  hist(z, freq=FALSE, ylim=c(0, 1/sqrt(2*pi*s^2)),
       main="Marginal Histogram",
       sub="Best Normal Fit Superimposed")
  curve(dnorm(x, mean(z), s), add=TRUE, lwd=2, col="Red")
}
par(mfrow=c(1, min(d, 4)))
invisible(apply(y, 1, h))
#
# Draw a nice histogram of the distances.
#
#plot(y[1,], y[2,], pch=16, cex=1/2, col="#00000010") # For figure 2
rho.max <- min(qchisq(1 - 0.001*pchisq(a/sigma, d, lower.tail=FALSE), d)*sigma, 
               max(rho), na.rm=TRUE)
k <- ceiling(rho.max/a)
hist(rho, freq=FALSE, xlim=c(0, rho.max),  
     breaks=seq(0, max(rho)+a, by=a/ceiling(50/k)))
#
# Superimpose the theoretical distribution.
#
dchi <- function(x, d) {
  exp((d-1)*log(x) + (1-d/2)*log(2) - x^2/2 - lgamma(d/2))
}
curve((x >= a)*dchi(x/sigma, d) / (1-pchisq((a/sigma)^2, d))/sigma, add=TRUE, 
      lwd=2, col="Red", n=257)

Escrevi isso assumindo que você não deseja nenhum ponto com || y || > a, que é o análogo do truncamento unidimensional usual. No entanto, você escreveu que deseja manter os pontos com | y || > = a e jogue fora os outros. No entanto, o ajuste óbvio para minha solução pode ser feito se você realmente deseja manter pontos tendo | y || > = a.

A maneira mais direta, que por acaso é uma técnica muito geral, é usar a Aceitação-Rejeição https://en.wikipedia.org/wiki/Rejection_sampling . Será bastante rápido, desde que o Prob (|| X ||> a) seja bastante baixo, pois não haverá muitas rejeições.

Gere um valor de amostra x a partir do Normal Multivariado sem restrições (mesmo que seu problema afirme que o Normal Multivariado é esférico, a técnica pode ser aplicada mesmo que não seja). Se || x || <= a, aceite, ou seja, use x, caso contrário, rejeite-o e gere uma nova amostra. Repita esse processo até ter quantas amostras aceitas forem necessárias. O efeito da aplicação desse procedimento é gerar y de modo que sua densidade seja c * f_X (y), se || y || <= ae 0 se || y || > a, de acordo com minha correção para a parte inicial da sua pergunta. Você nunca precisa calcular c; na verdade, é determinado automaticamente pelo algoritmo com base na frequência com que as amostras são rejeitadas.

$$f_X(x) \propto \frac{1}{{(2\pi\sigma^2)}^{n/2}} \exp\left(-\frac{||x||^2}{2\sigma^2}\right)\mathbb{I}_{||x||>a}=\frac{1}{{(2\pi\sigma^2)}^{n/2}} \exp\left(-\frac{x_1^2+\ldots+x_n^2}{2\sigma^2}\right)\mathbb{I}_{||x||>a}$$ $$f_X(x) \propto \frac{1}{{(2\pi\sigma^2)}^{(n-1)/2}} \exp\left(-\frac{||x_{-n}||^2}{2\sigma^2}\right)\frac{1}{{(2\pi\sigma^2)}^{1/2}} \exp\left(-\frac{x_n^2}{2\sigma^2}\right)\mathbb{I}_{||x||>a}$$ $$=\frac{1}{{(2\pi\sigma^2)}^{(n-1)/2}} \exp\left(-\frac{||x_{-n}||^2}{2\sigma^2}\right)\frac{1}{{(2\pi\sigma^2)}^{1/2}} \exp\left(-\frac{x_n^2}{2\sigma^2}\right)\mathbb{I}_{||x_{-n}||^2+x_n^2>a^2}$$ $$=\frac{\mathbb{P}(X_n^2>a^2-||x_{-n}||^2)}{{(2\pi\sigma^2)}^{(n-1)/2}} \exp\left(-\frac{||x_{-n}||^2}{2\sigma^2}\right)\qquad\qquad\qquad\qquad\qquad$$ $$\qquad\qquad\qquad\times\frac{\mathbb{P}(X_n^2>a^2-||x_{-n}||^2)^{-1}}{{(2\pi\sigma^2)}^{1/2}} \exp\left(-\frac{x_n^2}{2\sigma^2}\right)\mathbb{I}_{x_n^2>a-||x_{-n}||^2}$$ $$f_{X_{-n}}(x_{-n}) \propto \frac{\mathbb{P}(X_n^2>a^2-||x_{-n}||^2)}{{(2\pi\sigma^2)}^{(n-1)/2}} \exp\left(-\frac{||x_{-n}||^2}{2\sigma^2}\right)$$ $x_n$

1. $X_n$$X_{-n}$
2. $X_{-n}$$\mathbb{P}(X_n^2>a^2-||x_{-n}||^2)$

A única maneira que vejo em tirar proveito dessa propriedade é executar um amostrador Gibbs, um componente por vez, usando as distribuições condicionais normais truncadas.

A questão se origina da idéia de usar - a decomposição condicional básica de distribuições conjuntas - para extrair amostras vetoriais.

$X$

$\text{Prob}(||X||>a) \triangleq T$$Y\triangleq X.\mathbb{I}_{||X||>a}$

$$f_Y(y) = \frac{1}{T}\frac{1}{{(2\pi\sigma^2)}^{n/2}} \exp\left(-\frac{||y||^2}{2\sigma^2}\right)\mathbb{I}_{||y||>a}\\ =\frac{1}{T}\frac{1}{{(2\pi\sigma^2)}^{n/2}} \exp\left(-\frac{y_1^2+\ldots+y_n^2}{2\sigma^2}\right)\mathbb{I}_{||y||>a}\\ =\left(\prod_{i=1}^{n-1} \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{y_i^2}{2\sigma^2}\right)\right) \left(\frac{1}{T}\frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{y_n^2}{2\sigma^2}\right)\mathbb{I}_{||y||>a}\right)\\ =\underbrace{\left(\prod_{i=1}^{n-1} \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{y_i^2}{2\sigma^2}\right)\right)}_{\text{Gaussians}} \underbrace{\left(\frac{1}{T}\frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{y_n^2}{2\sigma^2}\right)\mathbb{I}_{y_n^2>(a^2-y_1^2-\ldots y_{n-1}^2)}\right)}_{\text{Truncated Gaussian??}}$$

A resposta mais curta é que o último fator não é um gaussiano truncado, (mais importante) nem uma distribuição.

---

Aqui está a explicação detalhada de por que a fatoração acima em si tem alguma falha fundamental. Em uma única frase: qualquer fatoração condicional de uma determinada distribuição conjunta deve satisfazer algumas propriedades muito fundamentais, e a fatoração acima não as satisfaz (Veja abaixo).

$f_{XY}(x,y)=f_X(x)\cdot f_{Y|X}(y|x)$$f_X(x)$$X$$f_{Y|X}(y|x)$$Y$

1. $f(x,y)$$f_X(x)$
2. $f_{Y|X}(y|x)$$x$

$Y_n|(Y_1\ldots Y_{n-1})$

$(Y_1\ldots Y_{n-1})$

---

Essa proposta de algoritmo é provavelmente o resultado do seguinte equívoco: uma vez que uma distribuição naturalmente é fatorada a partir de uma distribuição conjunta (como Gaussians acima), ela leva a uma fatoração condicional. ---- Não faz! ---- O outro (segundo) fator também deve ser bom.

---

Nota: Há uma ótima resposta do @whuber anteriormente, que realmente resolve o problema de gerar um Gaussiano multivariado truncado pela norma. Estou aceitando a resposta dele. Esta resposta é apenas para esclarecer e compartilhar minha própria compreensão e a gênese da questão.