A função delta de Dirac deve ser considerada uma subclasse da distribuição gaussiana?

No Wikidata, é possível vincular distribuições de probabilidade (como todo o resto) em uma ontologia, por exemplo, que a distribuição t é uma subclasse da distribuição t não central, veja, por exemplo,

https://angryloki.github.io/wikidata-graph-builder/?property=P279&item=Q209675&iterations=3&limit=3

Existem vários casos limitantes, por exemplo, quando os graus de liberdade na distribuição t chegam ao infinito ou quando a variância se aproxima de zero para a distribuição normal (distribuição gaussiana). Neste último caso, a distribuição irá para a função delta do Dirac.

Observo que, na Wikipedia em inglês, o parâmetro variance atualmente é declarado maior que zero; portanto, com uma interpretação estrita, não se poderia dizer que a função delta do Dirac é uma subclasse da distribuição normal. No entanto, para mim, parece bastante razoável, pois eu diria que a distribuição exponencial é uma superclasse da função delta do Dirac.

Há algum problema em afirmar que a função delta de Dirac é uma subclasse da distribuição gaussiana?

distributions normal-distribution dirac-delta

— Finn Årup Nielsen
fonte

Se dirac delta é uma subclasse de gaussiana, sua curtose deve ser 3, certo?

— Aksakal

Acho que se considerarmos o delta do Dirac como uma subclasse de várias distribuições de probabilidade, a curtose é inconsistente para o delta do Dirac. Fala contra o delta do Dirac como uma subclasse de qualquer uma dessas distribuições.

— Finn Årup Nielsen 8/09/16

No contexto de probabilidade, o delta é descrito como uma função generalizada. Não é sou função comum

— Aksakal

Respostas:

O delta de Dirac é considerado como uma distribuição gaussiana quando é conveniente fazê-lo, e não é assim quando esse ponto de vista exige que façamos exceções.

Por exemplo, desfrutam de uma distribuição gaussiana multivariada se é uma variável aleatória gaussiana para todas as opções de números reais . (Nota: esta é uma definição padrão nas estatísticas "avançadas"). Como uma opção é , a definição padrão trata a constante (uma variável aleatória degenerada) como uma variável aleatória gaussiana (com média e variância ). Por outro lado, ignoramos nossa consideração pelo delta do Dirac como uma distribuição gaussiana quando consideramos algo como $(X_1, X_2, \ldots, X_n)$ $\sum_i a_iX_i$ $a_1, a_2, \ldots, a_n$ $a_1=a_2=\cdots=a_n=0$ $0$ $0$

"A função cumulativa de distribuição de probabilidade (CDF) de uma variável aleatória gaussiana de média zero com desvio padrão é onde é o CDF de uma variável aleatória gaussiana padrão ". $\sigma$

F_{X} (x) = P {X \leq x} = Φ (\frac{x}{σ})

$F_X(x) = P\{X \leq x\} = \Phi\left(\frac{x}{\sigma}\right)$

Φ (\cdot)

$\Phi(\cdot)$

Observe que esta afirmação está quase certa, mas não totalmente certa, se considerarmos o delta Dirac como o caso limitador de uma sequência de variáveis aleatórias gaussianas de média zero cujo desvio padrão se aproxima de (e, portanto, como uma variável aleatória gaussiana). O CDF do delta Dirac tem o valor para enquanto $0$ $1$ $x \geq 0$

lim_{σ \to 0} Φ (\frac{x}{σ}) = {\begin{cases} 0, & x < 0, \\ \frac{1}{2}, & x = 0, \\ 1, & x > 0. \end{cases}

$\lim_{\sigma\to 0}\Phi\left(\frac{x}{\sigma}\right) = \begin{cases} 0, & x < 0,\\ \frac 12, & x = 0,\\ 1, & x > 0.\end{cases}$ Mas muitas pessoas dirão a você que considerar um delta do Dirac como uma distribuição gaussiana é um absurdo, já que o livro deles diz que a variação de uma variável aleatória gaussiana deve ser um número positivo (e algumas delas votarão negativamente nesta resposta para mostrar seu descontentamento). Houve uma discussão muito vigorosa e esclarecedora desse ponto há alguns anos sobre stats.SE, mas infelizmente foi apenas nos comentários de uma resposta (por @Macro, acredito) e não como respostas individuais, e não consigo encontrá-lo novamente .

— Dilip Sarwate
fonte

+1. Não tenho certeza de que haja um problema relacionado ao CDF, porque acredito que o valor limitador de uma sequência de CDFs a qualquer salto do limite não importa. Existem duas maneiras de ver isso. Uma é notar que sua fórmula limitadora não é um CDF válido (não é cadlag). Outra é notar que você obtém uma distribuição Dirac em quando deixa simultaneamente, mas pode conseguir o valor limite de estar entre e (ou não ter limite nenhum).

0

$0$

(μ, σ) \to (0, 0)

$(\mu,\sigma)\to(0,0)$

Φ_{μ, σ} (0)

$\Phi_{\mu,\sigma}(0)$

0

$0$

1

$1$

— whuber

A conversa que você mencionou aconteceu nos comentários desta resposta , embora sinceramente espero que para a maioria dos leitores a discussão não pareça muito vigorosa. (+1)

— cardeal

@ cardinal Profundo conhecimento da nossa comunidade. Bem feito!

— Matthew Drury

As funções delta se encaixam em uma teoria matemática das distribuições (que é bem distinta da teoria das distribuições de probabilidade , a terminologia aqui não poderia ser mais confusa).

Essencialmente, distribuições são funções generalizadas. Eles não podem ser avaliados como uma função, mas podem ser integrados. Mais precisamente, uma distribuição é definida da seguinte forma $D$

Seja a coleção de funções de teste . Uma função de teste é uma função verdadeira, honesta para com Deus, suave, com suporte compacto. Uma distribuição é um mapeamento linear $T$ $\theta$ $D: T \rightarrow \mathbb{R}$

Uma função honesta determina uma distribuição pelo operador de integração $f$

T (θ) = \int_{- \infty}^{+ \infty} f (x) θ (x) d x

$T(\theta) = \int_{-\infty}^{+\infty} f(x)\theta(x) dx$

Existem distribuições que não estão associadas a funções verdadeiras, o operador dirac é um deles

δ (θ) = θ (0)

$\delta(\theta) = \theta(0)$

Nesse sentido, você pode considerar o dirac como um caso limitador das distribuições normais. Se é a família de PDFs de distribuições normais com média zero e variância , então para qualquer função de teste $N_t$ $t$ $\theta$

θ (0) = lim_{t \to 0} \int_{- \infty}^{+ \infty} N_{t} (x) θ (x) d x

$\theta(0) = \lim_{t \rightarrow 0} \int_{-\infty}^{+\infty} N_t(x) \theta(x) dx$

Provavelmente, isso é mais comumente expresso como

θ (0) = \int_{- \infty}^{+ \infty} δ (x) θ (x) d x = lim_{t \to 0} \int_{- \infty}^{+ \infty} N_{t} (x) θ (x) d x

$\theta(0) = \int_{-\infty}^{+\infty} \delta(x) \theta(x) dx = \lim_{t \rightarrow 0} \int_{-\infty}^{+\infty} N_t(x) \theta(x) dx$

que um matemático consideraria um abuso de notação, porque a expressão não faz realmente nenhum sentido. Mas, novamente, quem sou eu para criticar Dirac, quem é o melhor. $\delta(x)$

Obviamente, se isso faz do dirac um membro da família de distribuições normais é uma questão cultural. Aqui, estou apenas dando uma razão para que faça sentido considerá-lo assim.

— Matthew Drury
fonte

Embora eu concorde com suas declarações, acho que isso implica o contrário. Uma função delta não é um subconjunto de gaussianos. Assim como um limite de funções contínuas não precisa ser uma função contínua.

— seanv507

@ seanv507 Eu fiz o meu melhor para não declarar uma conclusão de qualquer maneira!

— Matthew Drury

Eu pensei que as distribuições são muito parecidos com distribuições de probabilidade, com uma distribuição de Dirac delta (probabilidade) indicando uma variável determinística ...

— user541686

Se você não escrever os limites das integrais, elas poderão ser confundidas com integrais indefinidas. Além disso, esta frase não faz sentido: "Uma função de teste θ é uma função verdadeira, honesta com Deus, suave, com suporte compacto".

— ogogmad 7/09/16

@jkabrg Por que não faz sentido? Desde que escrevi, é difícil para mim ver que não faz sentido.

— Matthew Drury

-1

Não. Não é uma subclasse de distribuição normal.

Eu acho que a confusão vem de uma das representações da função Dirac. Lembre-se de que está definido da seguinte forma:

\int_{- \infty}^{\infty} δ (x) d x = 1

$\int_{-\infty}^\infty\delta(x)dx=1$

δ (x) = 0, \forall x \neq 0

$\delta(x)=0,\forall x\ne 0$

É definido como uma integral, o que é ótimo, mas às vezes você precisa operacionalizá-lo por uma representação de função, e não por uma integral. Assim, as pessoas criaram todos os tipos de alternativas, uma delas se parece com a densidade gaussiana:

δ (x) = lim_{σ \to 0} \frac{e^{\frac{- x^{2}}{2 σ^{2}}}}{\sqrt{2 π} σ}

$\delta(x)=\lim_{\sigma\to 0} \frac{e^{\frac{-x^2}{2\sigma^2}}}{\sqrt{2\pi}\sigma}$

No entanto, essa não é a única representação , por exemplo, existe esta:

δ (x) = \frac{1}{2 π} \sum_{k = - \infty}^{\infty} e^{i k x}, \forall x \in (- π, π)

$\delta(x)=\frac{1}{2\pi}\sum_{k=-\infty}^\infty e^{ikx}, \forall x\in (-\pi,\pi)$

Portanto, é melhor pensar na função Dirac em termos de sua definição integral e tomar as representações da função, como gaussianas, como ferramentas de conveniência.

ATUALIZAÇÃO Para o ponto de @ whuber, um exemplo melhor é essa representação do delta de Dirac:

δ (x) = lim_{σ \to 0} \frac{e^{- \frac{| x |}{σ}}}{2 σ}

$\delta(x)=\lim_{\sigma\to 0} \frac{e^{-\frac{|x|}{\sigma}}}{2\sigma}$

Isso se parece com a distribuição da Lapônia para você? Não deveríamos considerar o delta de Dirac como uma subclasse da distribuição laplaciana?

— Aksakal
fonte

Em algum momento desta resposta, você parece mudar de discutir distribuições para discutir "funções". A questão se refere explicitamente a "distribuições de probabilidade". Geralmente, essas não são dadas por funções de densidade, mas sempre podem ser dadas por sua função de distribuição. A distribuição de um átomo - o "delta do Dirac" - se encaixa perfeitamente com todas as outras distribuições gaussianas como um caso limitante. (Na configuração de Matthew Drury, é definido como esse limite!) Seu argumento parece semelhante a afirmar que, digamos, círculos não são elipses. A imposição de tais exceções não parece construtiva.

— whuber

@ whuber, o que é "distribuição de um átomo"?

— Aksakal

Um "átomo" é um pedaço de probabilidade em um único ponto. Equivalentemente, é a distribuição de qualquer variável aleatória constante em quase todos os lugares.

— whuber

@ Whuber, Oh, eu estava pensando em um átomo físico. Não, meu ponto é que delta de Dirac não é uma subclasse de Gaussian, porque pode ser representado também por Laplacian como distros

— Aksakal

Re: seu ponto de vista sobre as distribuições da Laplace. Assim como um quadrado é um retângulo e um losango, e a distribuição Uniform é um caso especial de uma distribuição Uniform e uma distribuição Beta , uma distribuição pode pertencer a várias famílias de distribuições nomeadas. De fato, as distribuições delta pertencem a todas as famílias em escala de local e pelo menos uma distribuição delta pertence a todas as famílias em escala. Geometricamente, as famílias são curvas em um espaço de distribuições; uma dada distribuição é um ponto; e (obviamente) qualquer ponto pode pertencer a muitas curvas.

(0, 1)

$(0,1)$

(0, θ)

$(0,\theta)$

(α, β)

$(\alpha,\beta)$

— whuber