Por que a convolução funciona?

Então eu sei que, se queremos encontrar a distribuição de probabilidade de uma soma de variáveis aleatórias independentes $X + Y$ , podemos calculá-la a partir das distribuições de probabilidade de $X$ e $Y$ , dizendo

f_{X + Y} (a) = \int_{x = - \infty}^{\infty} f_{X, Y} (X = x, Y = a - x) d x = \int_{x = - \infty}^{\infty} f_{X} (x) f_{Y} (a - x) d x

$f_{X + Y}(a) = \int_{x = -\infty}^{\infty} f_{X, Y}(X = x, Y = a - x)~dx = \int_{x = -\infty}^{\infty} f_X(x) f_Y(a - x)~dx$

Intuitivamente, isso faz sentido, porque se queremos encontrar a probabilidade de que duas variáveis aleatórias soma para $a$ , é basicamente a soma das probabilidades de todos os eventos que levam a essas variáveis somando a $a$ . Mas como posso provar formalmente essa afirmação?

probability

— Jessica
fonte

Pergunta ligeiramente diferente, mas a resposta é semelhante .

— 22218 Carl

Respostas:

A solução mais geral considera $Z = X + Y$ onde $X$ e $Y$ não são necessariamente independentes. Uma estratégia de solução comum para problemas nos quais você está se perguntando de onde veio um PDF ou como justificá-lo é encontrar um cumulativo provavelmente e, em seguida, diferenciá-lo para reduzir o CDF a um PDF.

$F_Z(z) = \mathrm{P}(Z \leq z) = \int \int_R f_{X,Y}(x,y)\,\mathrm{d}x\,\mathrm{d}y$ $R$ $x$ $y$ $x + y \leq z$

$x$ $-\infty$ $\infty$ $y$ $x + y = z$ $y \leq z - x$

z <x + y

$x$ $y$ $u=x$ $v=x+y$ $z$ $v$

F_{Z} (z) = \int_{x = - \infty}^{x = \infty} \int_{y = - \infty}^{y = z - x} f_{X, Y} (x, y) d x d y = \int_{v = - \infty}^{v = z} \int_{u = - \infty}^{y = \infty} f_{X, Y} (u, v - u) d u d v

$F_Z(z) = \int_{x = -\infty}^{x=\infty}\int_{y=-\infty}^{y=z-x}f_{X,Y}(x,y)\,\mathrm{d}x\,\mathrm{d}y = \int_{v = -\infty}^{v=z}\int_{u=-\infty}^{y=\infty}f_{X,Y}(u,v-u)\,\mathrm{d}u\,\mathrm{d}v$

$z$

f_{Z} (z) = \int_{- \infty}^{\infty} f_{X, Y} (u, z - u) d u

$f_Z(z) = \int_{-\infty}^{\infty}f_{X,Y}(u, z-u)\,\mathrm{d}u$

$X$ $Y$

f_{Z} (z) = \int_{- \infty}^{\infty} f_{X} (u) f_{Y} (z - u) d u

$f_Z(z) = \int_{-\infty}^{\infty}f_X(u)f_Y(z-u)\,\mathrm{d}u$

$u$ $x$

Minha anotação para as integrais segue exatamente a Seção 6.4 de Geoffrey Grimmett e Dominic Walsh, Probability: An Introduction , Oxford University Press, Nova York, 2000.

— Silverfish
fonte

\iint \dots d x d y

$\iint \cdots \mathrm{d}x\,\mathrm{d} y$

x

$x$

y

$y$

\int (\int \dots d x) d y

$\int\left(\int \cdots \mathrm{d}x\right)\mathrm{d}y$

@whuber, pensando bem, essa é certamente a convenção aplicada em praticamente todos os livros que conheço (para que a integração múltipla seja efetivamente aninhada). Mas, folheando, Grimmett e Welsh "Probability: An Introduction" são absolutamente consistentes com sua própria convenção da mesma ordem esquerda-direita para limites e diferenciais, por exemplo, eles fornecem !

\int_{u} \int_{v} \int_{w} . . . d u d v d w

$\int_u \int_v \int_w ... du\,dv\,dw$

— quer

Fico constantemente divertido de saber como, na interseção de muitos campos, estamos expostos a convenções conflitantes. É uma das alegrias de trabalhar com pessoas de diferentes origens.

— whuber

@whuber Estou ciente de que as convenções para definir integrais variam enormemente entre os países - você desfrutará disso no Tex SE tex.stackexchange.com/a/88961/25866 e gostaria que fosse expandido para abranger várias integrações!

— quer

A afirmação é verdadeira se, e somente se, o lado direito agir como uma densidade para ; isso é, $X+Y$

F_{X + Y} (a) = P (X + Y \leq a) = \int_{- \infty}^{a} f_{X + Y} (z) d z = \int_{- \infty}^{a} (\int f_{X} (x) f_{Y} (z - x) d x) d z

$F_{X+Y}(a)=\mathbb{P}(X+Y\le a) = \int_{-\infty}^a f_{X+Y}(z)\,\mathrm{d}z = \int_{-\infty}^a \left(\int f_X(x) f_Y(z-x)\,\mathrm{d}x\right)\mathrm{d}z$

para todos . Vamos verificar isso começando com o lado direito. $a$

Aplique o Teorema de Fubini para alterar a ordem da integração e faça a substituição . O determinante de seu jacobiano é ; portanto, nenhum termo adicional é introduzido por essa alteração de variáveis. Observe que, como e estão em correspondência um-para-um e se e somente se , podemos reescrever a integral como $z = x+y$ $1$ $z$ $y$ $-\infty \lt z \le a$ $-\infty \lt y \lt a-x$

= \int (\int_{- \infty}^{a - x} f_{X} (x) f_{Y} (y) d y) d x .

$=\int \left(\int_{-\infty}^{a-x}f_X(x)f_Y(y)\,\mathrm{d} y\right)\mathrm{d}x.$

Por definição, esta é a integral sobre de $\mathbb{R}^2$

= \iint I (x + y \leq a) f_{X} (x) f_{Y} (y) d y d x

$=\iint I(x+y\le a)f_X(x)f_Y(y)\,\mathrm{d}y\,\mathrm{d}x$

onde é a função indicadora de um conjunto. Finalmente, como e são independentes, para todos , revelando a integral apenas como a expectativa $I$ $X$ $Y$ $f_{(X,Y)}(x,y) = f_X(x)f_Y(y)$ $(x,y)$

= \iint I (x + y \leq a) f_{(X, Y)} (x, y) d y d x = E (I (X + Y \leq a)) = P (X + Y \leq a),

$=\iint I(x+y\le a)f_{(X,Y)}(x,y)\,\mathrm{d}y\,\mathrm{d}x = \mathbb{E}(I(X+Y\le a))=\mathbb{P}(X+Y\le a),$

como desejado.

De maneira mais geral, mesmo quando um ou ambos os ou não têm uma função de distribuição, ainda podemos obter $X$ $Y$

F_{X + Y} (a) = E_{X} (F_{Y} (a - X)) = E_{Y} (F_{X} (a - Y))

$F_{X+Y}(a) = \mathbb{E}_X\left(F_Y(a-X)\right) = \mathbb{E}_Y\left(F_X(a-Y)\right)$

diretamente das definições básicas, usando a expectativa dos indicadores de alternar entre probabilidades e expectativas e explorando a premissa de independência para dividir o cálculo em expectativas separadas em relação a e : $X$ $Y$

\begin{aligned} P (X + Y \leq a) & = E (I (X + Y \leq a)) \\ = E_{X} (E_{Y} (I (X + Y \leq a)) \\ = E_{X} (P_{Y} (Y \leq a - X)) \\ = E_{X} (F_{Y} (a - X)) . \end{aligned}

$\eqalign{ \mathbb{P}(X+Y\le a) &= \mathbb{E}(I(X+Y\le a)) \\ &= \mathbb{E}_X\left(\mathbb{E}_Y(I(X+Y\le a)\right) \\ &= \mathbb{E}_X\left(\mathbb{P}_Y(Y\le a-X)\right) \\ &=\mathbb{E}_X(F_Y(a-X)). }$

Isso inclui as fórmulas usuais para variáveis aleatórias discretas, por exemplo, embora de uma forma ligeiramente diferente do habitual (porque é declarado em termos de CDFs e não em funções de massa de probabilidade).

Se você tiver um teorema suficientemente forte sobre a troca de derivadas e integrais, poderá diferenciar os dois lados em relação a para obter a densidade de uma só vez, $a$ $f_{X+Y}$

\begin{aligned} f_{X + Y} (a) & = \frac{d}{d a} F_{X + Y} (a) = E_{X} (\frac{d}{d a} F_{Y} (a - X)) = E_{X} (f_{Y} (a - X)) \\ = \int f_{X} (x) f_{Y} (a - x) d x . \end{aligned}

$\eqalign{ f_{X+Y}(a) &= \frac{\mathrm{d}}{\mathrm{d}a} F_{X+Y}(a) =\mathbb{E}_X\left(\frac{\mathrm{d}}{\mathrm{d}a} F_Y(a-X)\right) = \mathbb{E}_X \left(f_Y(a-X)\right) \\ &= \int f_X(x) f_Y(a-x) \,\mathrm{d} x. }$

— whuber
fonte