Diga que $Y$ é uma variável aleatória contínua e $X$ é uma variável discreta.

$$\Pr(X=x|Y=y) = \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)}$$

Como sabemos, $\Pr(Y=y) = 0$ porque $Y$ é uma variável aleatória contínua. E com base nisso, sou tentado a concluir que a probabilidade $\Pr(X=x|Y=y)$ é indefinida.

No entanto, a Wikipedia afirma aqui que na verdade é definida da seguinte maneira:

$$\Pr(X=x|Y=y) = \frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}$$

Pergunta: Alguma idéia de como a Wikipedia conseguiu definir essa probabilidade?

---

Minha tentativa

Aqui está minha tentativa de obter esse resultado da Wikipedia em termos de limites:

$$\begin{split}\require{cancel} \Pr(X=x|Y=y) &= \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)}\\ &= \lim_{d \rightarrow 0}\frac{\Pr(X=x) \big(d \times f_{Y|X=x}(y)\big)}{\big(d \times f_Y(y)\big)}\\ &= \lim_{d \rightarrow 0}\frac{\Pr(X=x) \big(\cancel{d} \times f_{Y|X=x}(y)\big)}{\big(\cancel{d} \times f_Y(y)\big)}\\ &= \frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}\\ \end{split}$$

Agora, $\Pr(X=x|Y=y)$ parece ser definido como $\frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}$ , que corresponde essa afirmação da Wikipedia.

Foi assim que a Wikipedia fez?

Mas ainda sinto que estou abusando do cálculo aqui. Então eu acho que $\Pr(X=x|Y=y)$ é indefinido, mas no limite à medida que nos aproximamos o máximo possível da definição de $\Pr(Y=y)$ e $\Pr(Y=y|X=x)$ , mas não com precisão, então $\Pr(X=x|Y=y)$ é definido.

Mas não tenho muita certeza sobre muitas coisas, incluindo o truque de limites que fiz lá, sinto que talvez nem esteja totalmente entendendo o significado do que fiz.

A distribuição de probabilidade condicional , , , é formalmente definida como uma solução da equação onde indica o -álgebra associada com a distribuição de . Uma dessas soluções é fornecida pela fórmula de Bayes (1763), conforme indicado na Wikipedia :$\mathbb{P}(X=x|Y=y)$$x\in\mathcal{X}$$y\in\mathcal{Y}$

$$\mathbb{P}(X=x,Y\in A)=\int_{A}\mathbb{P}(X=x|Y=y)f_Y(y)\text{d}y\quad\forall A\in\sigma(\mathcal{Y})$$ $\sigma(\mathcal{Y})$$\sigma$$Y$ $$\mathbb{P}(X=x|Y=y) = \dfrac{\mathbb{P}(X=x) f_{Y|X=x}(y)}{f_Y(y)}\qquad\forall x\in\mathcal{X},\ y\in\mathcal{Y}$$ embora as versões definidas arbitrariamente em um conjunto de medida zero em também sejam válidas.$\sigma(\mathcal{Y})$

O conceito de probabilidade condicional em relação a uma hipótese isolada cuja probabilidade é igual a 0 é inadmissível. Pois só podemos obter uma distribuição de probabilidade [da latitude] no círculo meridiano se considerarmos esse círculo como um elemento da decomposição de toda a superfície esférica em círculos meridianos com os polos dados -  Andrei Kolmogorov

Como mostra o paradoxo de Borel-Kolmogorov , dado um valor específico potencialmente obtido , a distribuição de probabilidade condicional não tem significado preciso, não apenas porque o evento é da medida zero, mas também porque esse evento pode ser interpretado como mensurável em um intervalo infinito de -algebras.$y_0$$Y$$\mathbb{P}(X=x|Y=y_0)$$\{\omega;\,Y(\omega)=y_0\}$$\sigma$

Nota: Aqui está uma introdução ainda mais formal, extraída de uma revisão da teoria das probabilidades no blog de Terry Tao :

Definição 9 (Desintegração) Let ser uma variável aleatória com gama . Uma desintegração do espaço de amostra subjacente em relação a é um subconjunto de de medida completa em (portanto, quase certamente), juntamente com a atribuição de uma medida de probabilidade no subespaço de para cada , que é mensurável no sentido de que o mapa$Y$$R$$(R', (\mu_y)_{y \in R'})$$\Omega$$Y$$R'$$R$$\mu_Y$$Y \in R'$${\bf P}(|Y=y)$$\Omega_y := \{ \omega \in \Omega: Y(\omega)=y\}$$\Omega$$y \in R$$y \mapsto {\bf P}(F|Y=y)$é mensurável para cada evento , e tal que para todos esses eventos, onde é a variável aleatória (quase certamente definida) definida como igual a sempre que .$F$

$$\displaystyle {\bf P}(F) = {\bf E} {\bf P}(F|Y)$$ ${\bf P}(F|Y)$${\bf P}(F|Y=y)$$Y=y$

Dada essa desintegração, podemos condicionar o evento para qualquer substituindo pelo subespaço (pela -algebra induzida ), mas substituindo a medida de probabilidade subjacente com . Assim, podemos condicionar os eventos (incondicionais) e as variáveis ​​aleatórias a este evento para criar eventos condicionados e variáveis ​​aleatórias no espaço condicionado, dando origem a probabilidades condicionais$Y=y$$y \in R'$$\Omega$$\Omega_y$$\sigma$${\bf P}$${\bf P}(|Y=y)$$F$$X$$(F|Y=y)$$(X|Y=y)$${\bf P}(F|Y=y)$(que é consistente com a notação existente para esta expressão) e com as expectativas condicionais (assumindo integrabilidade absoluta neste espaço condicionado). Em seguida, definimos como a variável aleatória (quase certamente definida) definida como igual a sempre que .${\bf E}(X|Y=y)$${\bf E}(X|Y)$${\bf E}(X|Y=y)$$Y=y$

Vou fazer um esboço de como as peças podem se encaixar quando é contínuo e é discreto.$Y$$X$

A densidade conjunta mista:

$$f_{XY}(x,y)$$

Densidade e probabilidade marginais:

$$f_Y(y) = \sum_{x \in X} f_{XY}(x, y)$$

$$P(X = x) = \int f_{XY}(x, y) \;dy$$

Densidade e probabilidade condicionais:

$$f_{Y\mid X}(y \mid X = x) = \frac{f_{XY}(x, y)}{P(X=x)}$$

$$P(X=x \mid Y = y) = \frac{f_{XY}(x, y)}{f_Y(y)}$$

Regra de Bayes:

$$f_{Y\mid X}(y \mid X = x) = \frac{P(X=x \mid Y = y) f_Y(y)}{P(X=x)}$$

$$P(X=x \mid Y = y) = \frac{f_{Y\mid X}(y \mid X = x)P(X=x)}{f_Y(y)}$$

Obviamente, a maneira moderna e rigorosa de lidar com a probabilidade é através da teoria da medida. Para uma definição de precicse, consulte a resposta de Xi'an.

Observe que o artigo da Wikipedia realmente usa a seguinte definição: Ou seja, é trata o resultado como uma densidade, não como uma probabilidade. Então, eu diria que você está certo que é indefinido quando é contínuo e discreto, e é por isso que consideramos apenas densidades de probabilidade sobre nesse caso.

$$f_X(x|Y=y) = \frac{P(Y=y|X=x)f_X(x)}{p(Y=y)}$$ $P(X=x|Y=y)$$X$$Y$$X$

Edit: Devido a uma confusão sobre a notação (ver comentários), o item acima realmente se refere à situação oposta à que o homem das cavernas estava perguntando.