Gere ruído uniforme a partir de uma bola de norma p (

Eu estou tentando escrever uma função que gera ruído uniformemente distribuído que vem de uma bola p-norma de dimensões: $n$

| | x | |_{p} \leq r

$\begin{equation} ||x||_p \leq r \end{equation}$

Encontrei possíveis soluções para círculos ( ) ( http://mathworld.wolfram.com/DiskPointPicking.html ), no entanto, tenho problemas para estender isso para diferentes valores de . $p = 2$ $p$

Eu tentei fazer isso apenas desenhando uma amostra aleatória de uma distribuição uniforme e redesenhando quando ela não atende à restrição fornecida. No entanto, além de ser uma solução feia, também se torna computacionalmente inviável para altas dimensões.

simulation noise

— Taeke de Haan
fonte

A resposta pode ser encontrada aqui para uma esfera com n dimensões usando a distância euclidiana (p = 2) math.stackexchange.com/questions/87230/… No entanto, ainda não tenho certeza de como usar isso para diferentes normas-p, posso basta alterar a distância euclidiana usada em uma relação diferente para a distância?

— Taeke de Haan

Há muitos trabalhos, mas a maioria estão por trás paywall: link.springer.com/article/10.1007/s00184-011-0360-x ou ver google.com/...

— b Kjetil Halvorsen

"Uniforme" com relação a qual métrica de volume? Afinal, se você estiver usando uma bola , por que o volume euclidiano seria interessante?

p

$p$

— whuber

@whuber Eu sinceramente não tenho certeza, pois isso não está claramente indicado na tarefa, mas eu esperaria na norma-p, já que qualquer outra métrica parece arbitrária nesse caso.

— Taeke de Haan

O problema vem de uma tarefa de aprendizado de máquina; "O problema é um problema de classificação de duas classes em 204 dimensões. O pequeno conjunto de treinamento rotulado tem um tamanho de 50 amostras por classe. Os dados não rotulados fornecem 20.000 amostras adicionais. Essas amostras, no entanto, sofreram algum tipo de corrupção. A única informação adicional que temos sobre essa corrupção é que é um ruído uniforme aditivo e que o ruído provém de uma bola de norma p fixa, , onde e o raio são desconhecidos ". Preciso obter a menor taxa de erro nos dados não rotulados.

| | x | |_{p} \leq r

$||x||_p \leq r$

p

$p$

r

$r$

— Taeke de Haan

Respostas:

Encontrei a solução completa em um artigo, conforme sugerido por kjetil b halvorsen ( https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=758215 ). Sinceramente, tenho problemas para entender a matemática por trás disso, mas o eventual algoritmo é bastante simples. se tivermos dimensões, um raio norma que: $n$ $r$ $p$

1) gerar escalares reais aleatórios independentes , onde é a distribuição generalizada de Gauss (com um poder diferente no expoente em vez de apenas ) $n$ $\varepsilon_i = \bar{G}(1/p, p)$ $\bar{G}(\mu, \sigma^2)$ $e^{−|x|^p}$ $p=2$

2) construa o vetor dos componentes , onde são sinais aleatórios independentes $x$ $s_i * \varepsilon_i$ $s_i$

3) Gere , onde é uma variável aleatória uniformemente distribuída no intervalo [0, 1]. $z = w^{1/n}$ $w$

4) retornar $y = r z \frac{x}{||x||_p}$

— Taeke de Haan
fonte

Para completar, você poderia dizer o que é

na sua resposta?

G

$G$

— Stéphane Laurent

Foi atualizado

— Taeke de Haan

G é a distribuição gaussiana generalizada (com uma potência diferente no expoente

vez de apenas

). Isso fará a distribuição para o vetor

, composto por várias variáveis gaussianas generalizadas independentes independentes

, que é o produto dos pdfs únicos, dependentes da norma-p.

e^{- | x |^{p}}

$e^{-|x|^p}$

p = 2

$p=2$

x

$\mathbf{x}$

x_{i}

$x_i$

f (x) \propto e^{- | x |_{p}^{p}}

$f(\mathbf{x}) \propto e^{-\vert \mathbf{x} \vert_p^p}$

— Sexto Empírico

@MartijnWeterings Muito obrigado, foi atualizado.

— Taeke de Haan

Obrigado. Para informações, há um amostrador dessa distribuição no pacote R pgnorm .

— Stéphane Laurent

Usando variáveis multivariadas distribuídas homogeneamente

Taeke fornece um link para um artigo que o texto abaixo torna mais intuitivo, explicando especificamente casos de 2 e 1 norma.

2-norma $\Vert x \Vert_2 \leq r$

direção da amostra

Você pode usar este resultado http://mathworld.wolfram.com/HyperspherePointPicking.html

Uma variável gaussiana distribuída multivariada (com matriz de covariância de identidade) depende apenas da distância ou soma dos quadrados. $X$

f (X_{1}, X_{2}, . . ., X_{n}) = \prod_{1 \leq i \leq n} \frac{1}{\sqrt{2 π}} e^{\frac{1}{2} x_{i}^{2}} = \frac{1}{\sqrt{2 π}} e^{\frac{1}{2} \sum_{1 \leq i \leq n} x_{i}^{2}}

$f(X_1,X_2,...,X_n) = \prod_{1\leq i \leq n} \frac{1}{\sqrt{2\pi}}e^{\frac{1}{2}x_i^2} = \frac{1}{\sqrt{2\pi}}e^{\frac{1}{2}\sum_{1 \leq i \leq n} x_i^2}$

Assim é uniformemente distribuída sobre a superfície do n-dimensional-hiperesfera. $\frac{X}{\Vert X \Vert_2}$

distância da amostra

Para concluir, você só precisa amostrar a distância, alterar a distribuição homogênea na esfera para uma distribuição homogênea na esfera. (que é mais ou menos semelhante ao seu exemplo vinculado para seleção de pontos de disco)

Se você simplesmente amostrasse como uma distribuição uniforme, teria uma densidade relativamente maior perto do centro (o volume é escalado como modo que uma fração dos pontos acabaria em um volume , que é mais denso perto do centro e não significaria uma distribuição uniforme) $r$ $r^n$ $r$ $r^n$

Se você usar a ésima raiz de uma variável amostrada de uma distribuição uniforme, obterá uma distribuição uniforme. $n$

$\Vert x \Vert_1 \leq r$

direção

$X$ $\frac{X}{\vert X \vert_1}$

Não tenho prova formal, apenas intuição

^{$f(x) dV$ $f(x) dA$}

mas testar com simulações parece bom.

library(rmutil)
x <- abs(rlaplace(20000))
y <- abs(rlaplace(20000))
z <- abs(rlaplace(20000))
rn <- abs(x)+abs(y)+abs(z)

xi <- (x/rn)
yi <- (y/rn)
zi <- (z/rn)
plot(sqrt(0.5)*(xi-yi),
     sqrt((0.5-0.5*(xi+yi))^2+zi^2),
     pc=21,bg=rgb(0,0,0,0.02), col=rgb(0,0,0,0),cex=1)

distância

$r^n$

$\Vert x \Vert_p \leq r$

$f(x) \propto e^{\vert x \vert^p}$ $G()$

— Sextus Empiricus
fonte

p

$p$

n

$n$

r

$r$

p

$p$

z = w^{1 / n}

$z = w^{1/n}$

w

$w$

y = r z \frac{x}{| | x | |_{p}}

$y = r z \frac{x}{||x||_p}$

Gere ruído uniforme a partir de uma bola de norma p (

Usando variáveis ​​multivariadas distribuídas homogeneamente

2-norma ∥ x ∥2≤ r‖x‖2≤r\Vert x \Vert_2 \leq r

direção da amostra

distância da amostra

∥ x ∥1 1≤ r‖x‖1≤r\Vert x \Vert_1 \leq r

direção

distância

∥ x ∥p≤ r‖x‖p≤r\Vert x \Vert_p \leq r

Usando variáveis multivariadas distribuídas homogeneamente

2-norma $\Vert x \Vert_2 \leq r$

$\Vert x \Vert_1 \leq r$

$\Vert x \Vert_p \leq r$