Como podemos limitar a probabilidade de uma variável aleatória ser máxima?

$\newcommand{\P}{\mathbb{P}}$ Suponha que tenhamos variáveis aleatórias independentes , , com meios finitos e variâncias , , . Estou procurando limites livres de distribuição com a probabilidade de que qualquer seja maior que todos os outros , . $N$ $X_1$ $\ldots$ $X_n$ $\mu_1 \leq \ldots \leq \mu_N$ $\sigma_1^2$ $\ldots$ $\sigma_N^2$ $X_i \neq X_N$ $X_j$ $j \neq i$

Em outras palavras, se por simplicidade assumimos que as distribuições de $X_i$ são contínuas (de modo que $\P(X_i = X_j) = 0$ ), estou procurando limites em:

P (X_{i} = max_{j} X_{j}) .

$\P( X_i = \max_j X_j ) \enspace.$ Se

N = 2

$N=2$ , podemos usar a desigualdade de Chebyshev para obter:

P (X_{1} = max_{j} X_{j}) = P (X_{1} > X_{2}) \leq \frac{σ_{1}^{2} + σ_{2}^{2}}{σ_{1}^{2} + σ_{2}^{2} + (μ_{1} - μ_{2})^{2}} .

$\P(X_1 = \max_j X_j) = \P(X_1 > X_2) \leq \frac{\sigma_1^2 + \sigma_2^2}{\sigma_1^2 + \sigma_2^2 + (\mu_1 - \mu_2)^2} \enspace.$ Gostaria de encontrar alguns limites simples (não necessariamente restritos) para o

geral

N

$N$ , mas não consegui encontrar resultados esteticamente agradáveis para o

geral

N

$N$ .

Observe que as variáveis não são consideradas iid. Quaisquer sugestões ou referências a trabalhos relacionados são bem-vindas.

Atualização: lembre-se de que, por suposição, $\mu_j \geq \mu_i$ . Podemos então usar o limite acima para chegar a:

P (X_{i} = max_{j} X_{j}) \leq min_{j > i} \frac{σ_{i}^{2} + σ_{j}^{2}}{σ_{i}^{2} + σ_{j}^{2} + (μ_{j} - μ_{i})^{2}} \leq \frac{σ_{i}^{2} + σ_{N}^{2}}{σ_{i}^{2} + σ_{N}^{2} + (μ_{N} - μ_{i})^{2}} .

$\P(X_i = \max_j X_j) \leq \min_{j > i} \frac{\sigma_i^2 + \sigma_j^2}{\sigma_i^2 + \sigma_j^2 + (\mu_j - \mu_i)^2} \leq \frac{\sigma_i^2 + \sigma_N^2}{\sigma_i^2 + \sigma_N^2 + (\mu_N - \mu_i)^2} \enspace.$ Isso implica:

(μ_{N} - μ_{i}) P (X_{i} = max_{j} X_{j}) \leq (μ_{N} - μ_{i}) \frac{σ_{i}^{2} + σ_{N}^{2}}{σ_{i}^{2} + σ_{N}^{2} + (μ_{N} - μ_{i})^{2}} \leq \frac{1}{2} \sqrt{σ_{i}^{2} + σ_{N}^{2}} .

$( \mu_N - \mu_i ) \P( X_i = \max_j X_j ) \leq (\mu_N - \mu_i) \frac{\sigma_i^2 + \sigma_N^2}{\sigma_i^2 + \sigma_N^2 + (\mu_N - \mu_i)^2} \leq \frac{1}{2} \sqrt{ \sigma_i^2 + \sigma_N^2 } \enspace.$ Isso, por sua vez, implica:

\sum_{i = 1}^{N} μ_{i} P (X_{i} = max_{j} X_{j}) \geq μ_{N} - \frac{N}{2} \sqrt{\sum_{i = 1}^{N - 1} (σ_{i}^{2} + σ_{N}^{2})} .

$\sum_{i=1}^N \mu_i \P( X_i = \max_j X_j ) \geq \mu_N - \frac{N}{2} \sqrt{ \sum_{i=1}^{N-1} (\sigma_i^2 + \sigma_N^2) } \enspace.$ Agora estou pensando se esta ligado pode ser melhorado para algo que não depende linearmente em

N

$N$ . Por exemplo, o seguinte é válido:

\sum_{i = 1}^{N} μ_{i} P (X_{i} = max_{j} X_{j}) \geq μ_{N} - \sqrt{\sum_{i = 1}^{N} σ_{i}^{2}} ?

$\sum_{i=1}^N \mu_i \P( X_i = \max_j X_j ) \geq \mu_N - \sqrt{ \sum_{i=1}^N \sigma_i^2 } \enspace?$ E se não, o que poderia ser um contra-exemplo?

probability bounds maximum

— MLS
fonte

Este limite pode ser mais apertado, se você usar o índice que lhe dá o menor limite superior, em vez de . Observe que esse valor depende da média e da variação.

j

$j$

N

$N$

@ MichaelChernick: Não acredito que isso esteja correto. Suponha, por exemplo, que tenhamos três distribuições uniformes em . Então, se não me engano, , enquanto . Não sei se você pretendia escrever , mas o mesmo exemplo mostra que ainda não é válido.

[0, 1]

$[0,1]$

P (X_{1} < max_{j} X_{j}) = 2 / 3

$P( X_1 < \max_j X_j ) = 2/3$

P (X_{1} < X_{2}) = P (X_{1} < X_{3}) = 1 / 2

$P(X_1 < X_2) = P(X_1 < X_3) = 1/2$

P (X_{i} > max_{j} X_{j})

$P( X_i > \max_j X_j )$

— MLS

@ Michael: Isso ainda não é verdade, infelizmente. Os eventos para fixo não são independentes.

A_{j} = {X_{i} > X_{j}}

$A_j = \{X_i > X_j\}$

i

$i$

— cardeal

@ cardinal: Entre outras coisas, está relacionado a bandidos com várias armas. Se você escolher um braço com base nas recompensas anteriores, qual a probabilidade de escolher o melhor braço (que seria na notação acima) e podemos limitar a perda esperada ao escolher um sub braço ideal?

P (X_{N} = max_{j} X_{j})

$P(X_N = \max_j X_j)$

— MLS

Crossposted to MathOverflow: mathoverflow.net/questions/99313

— cardinal

Respostas:

Você pode usar a desigualdade de Chebyshev multivariada.

Caso de duas variáveis

Para uma situação única, x , chego à mesma situação que o comentário de Jochen em 4 de novembro de 2016 $X_1$ $X_2$

1) Se então $\mu_1 < \mu_2$ $P(X_1>X_2) \leq (\sigma_1^2 + \sigma_2^2)/(\mu_1-\mu_2)^2$

(e também me pergunto sobre sua derivação)

Derivação da equação 1

usando a nova variável $X_1-X_2$
transformando-o de modo que tenha a média em zero
tomando o valor absoluto
aplicando a desigualdade de Chebyshev

\begin{matrix} P (X_{1} > X_{2}) & = P (X_{1} - X_{2} > 0) \\ = P (X_{1} - X_{2} - (μ_{1} - μ_{2}) > - (μ_{1} - μ_{2})) \\ \leq P (| X_{1} - X_{2} - (μ_{1} - μ_{2}) | > μ_{2} - μ_{1}) \\ \leq \frac{σ_{(X_{1} - X_{2} - (μ_{1} - μ_{2}))}^{2}}{(μ_{2} - μ_{1})^{2}} = \frac{σ_{X_{1}}^{2} + σ_{X_{2}}^{2}}{(μ_{2} - μ_{1})^{2}} \end{matrix}

$\begin{array} \\ P \left( X_1 > X_2 \right) &= P \left( X_1 - X_2 > 0 \right)\\ &= P\left( X_1 - X_2 - (\mu_1 - \mu_2) > - (\mu_1 - \mu_2)\right) \\ &\leq P\left( \vert X_1 - X_2 - (\mu_1 - \mu_2) \vert > \mu_2 - \mu_1\right) \\ &\leq \frac{\sigma_{(X_1-X_2- (\mu_1 - \mu_2))}^2}{(\mu_2 - \mu_1)^2} = \frac{\sigma_{X_1}^2+\sigma_{X_2}^2}{(\mu_2 - \mu_1)^2}\\ \end{array}$

Caso Multivariado

A desigualdade na equação (1) pode ser alterada para um caso multivariado, aplicando-a a múltiplas variáveis transformadas para cada (observe que elas estão correlacionadas). $(X_n-X_i)$ $i<n$

Uma solução para esse problema (multivariada e correlacionada) foi descrita por I. Olkin e JW Pratt. 'Uma desigualdade multivariada de Tchebycheff' nos Anais de estatística matemática, volume 29 páginas 226-234 http://projecteuclid.org/euclid.aoms/1177706720

Teorema da nota 2.3

$P(\vert y_i \vert \geq k_i \sigma_i \text{ for some } i) = P(\vert x_i \vert \geq 1 \text{ for some } i) \leq \frac{(\sqrt{u} + \sqrt{(pt-u)(p-1)})^2}{p^2}$

em que o número de variáveis, , e . $p$ $t=\sum k_i^{-2}$ $u=\sum \rho_{ij}/(k_ik_j)$

O teorema 3.6 fornece um limite mais rígido, mas é menos fácil de calcular.

Editar

Um limite mais nítido pode ser encontrado usando a desigualdade de Cantelli multivariada . Essa desigualdade é o tipo que você usou anteriormente e forneceu o limite que é mais nítido que $(\sigma_1^2 + \sigma_2^2)/(\sigma_1^2 + \sigma_2^2 + (\mu_1-\mu_2)^2)$ . $(\sigma_1^2 + \sigma_2^2)/(\mu_1-\mu_2)^2$

Não tomei tempo para estudar o artigo inteiro, mas, de qualquer maneira, você pode encontrar uma solução aqui:

AW Marshall e I. Olkin 'Uma desigualdade unilateral do tipo Chebyshev' em Annals of Mathematics Statistics volume 31 pp. 488-491 https://projecteuclid.org/euclid.aoms/1177705913

(nota posterior: essa desigualdade é para correlações iguais e não ajuda suficiente. Mas, de qualquer maneira, seu problema, para encontrar o limite mais nítido, é igual à desigualdade Cantelli, mais geral e multivariada. Eu ficaria surpreso se a solução não existir)

— Sextus Empiricus
fonte

Could you provide a clear statement of the multivariate Chebyshev Inequality?

— whuber

I have edited the solution providing the entire theorem.

— Sextus Empiricus

-1

I have found a theorem that might help you and will try to adjust it for your needs. Assume you have:

e x p (t \cdot E (\underset{1 \leq i \leq n}{m a x} X_{i}))

$exp(t \cdot \mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i}))$

Then by Jensen's inequality (since exp(.) is a convex function), we get:

e x p (t \cdot E (\underset{1 \leq i \leq n}{m a x} X_{i})) \leq E (e x p (t \cdot \underset{1 \leq i \leq n}{m a x} X_{i})) = E (\underset{1 \leq i \leq n}{m a x} e x p (t \cdot X_{i})) \leq \sum_{i = 1}^{n} E (e x p (t \cdot X_{i})

$exp(t \cdot \mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i})) \leq \mathbf{E}(exp( t \cdot \underset{1 \leq i \leq n}{max}X_{i})) = \mathbf{E}( \underset{1 \leq i \leq n}{max} \text{ }exp( t \cdot X_{i})) \leq \sum_{i=1}^{n} \mathbf{E} (exp(t \cdot X_{i})$

Now for $exp(t \cdot X_{i}$ you have to plug in whatever the moment generating function of your random variable $X_{i}$ is (since it is just the definition of the mgf). Then, after doing so (and potentially simplifying your term), you take this term and take the log and divide by it by t so that you get a statement about the term $\mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i})$ . Then you can choose t with some arbitrary value (best so that the term is small so that the bound is tight).

Then, you have a statement about the expected value of the maximum over n rvs. To get now the a statement about the probabilty that the maximum of those rv's deviates from this expected value, you can just use Markov's inequality (assuming that your rv is non-negative) or another, more specific rv, applying to your particular rv.

— Fabian Falck
fonte