Como provar a correção de um algoritmo de reprodução aleatória?

Eu tenho duas maneiras de produzir uma lista de itens em uma ordem aleatória e gostaria de determinar se eles são igualmente justos (imparciais).

O primeiro método que eu uso é construir a lista inteira de elementos e, em seguida, fazer um shuffle (por exemplo, um shuffle de Fisher-Yates). O segundo método é mais um método iterativo que mantém a lista embaralhada a cada inserção. No pseudo-código, a função de inserção é:

insert( list, item )
    list.append( item )
    swap( list.random_item, list.last_item )

Estou interessado em como alguém mostra a imparcialidade desse embaralhamento em particular. As vantagens desse algoritmo, onde é usado, são suficientes para que, mesmo que um pouco injusto, tudo bem. Para decidir, preciso de uma maneira de avaliar sua justiça.

Minha primeira idéia é que eu preciso calcular o total de permutações possíveis dessa forma versus as totais de permutações possíveis para um conjunto do comprimento final. No entanto, estou um pouco sem saber como calcular as permutações resultantes desse algoritmo. Também não posso ter certeza de que esta é a melhor ou mais fácil abordagem.

Primeiro, vamos fazer duas suposições talvez óbvias, mas importantes:

1. _.random_item pode escolher a última posição.
2. _.random_itemescolhe todas as posições com probabilidade .$\frac{1}{n+1}$

Para provar a correção do seu algoritmo, você precisa de um argumento indutivo semelhante ao usado aqui :

• Para a lista de singleton, há apenas uma possibilidade, portanto ela é escolhida uniformemente.
• Supondo que a lista com elementos tenha sido escolhida uniformemente (de todas as permutações), mostre que aquela com n + 1 elementos obtidos por sua técnica é escolhida uniformemente.$n$$n+1$

^{A partir daqui, a prova está errada. Veja abaixo uma prova correta; Deixo isso aqui porque o erro e as etapas a seguir (que são válidas) podem ser educacionais.}

É útil derivar uma propriedade local (isto é, em termos de elementos) que deve ser mantida, porque argumentar sobre toda a permutação é doloroso. Observe que uma permutação é escolhida uniformemente se cada elemento tiver a mesma probabilidade de estar em cada posição, ou seja,

$\qquad \displaystyle \mathop{\forall}\limits_{\pi \in \mathrm{Perm}_n} \operatorname{Pr}(L = \pi) = \frac{1}{n!} \quad \Longleftrightarrow \quad \mathop{\forall}\limits_{i=1}^n\ \mathop{\forall}\limits_{j=1}^n \operatorname{Pr}(L_i = j) = \frac{1}{n} \qquad (1)$

onde e assumimos, por uma questão de simplicidade notacional, que inserimos { 1 , … , n } na lista.$n = |L|$$\{1,\dots,n\}$

Agora, vamos ver o que sua técnica faz ao inserir o elemento. Temos que considerar três casos (após a troca):$n+1$

1. Um dos elementos da lista, não trocado, ou seja, e j ∈ { 1 , … , n $i \in \{1,\dots,n\}$$j \in \{1,\dots,n\}$
2. Um dos elementos da lista foi trocado, ou seja, e j ∈ { 1 , … , n $i = n+1$$j \in \{1,\dots,n\}$
3. O novo elemento, isto é, e j = n + $i \in \{1,\dots,n+1\}$$j = n+1$

Para cada caso, calculamos a probabilidade do elemento estar na posição i ; tudo tem que vir a ser $j$$i$ (que é suficiente devido a(1)). Sejapn=$\frac{1}{n+1}$$(1)$ ser a probabilidade de um dos primeirosnelementos, sendo em qualquer posição na lista velha (hipótese de indução), eps=$p_n = \frac{1}{n}$$n$ a probabilidade de qualquer posição ser escolhida por(suposições 1, 2). Observe que a escolha da lista comnelementos e a escolha da posição de swap sãoeventos independentes; portanto, as probabilidades de eventos conjuntos são fatores, por exemplo,$p_s = \frac{1}{n+1}$random_item$n$

$\qquad \displaystyle \operatorname{Pr}(L_i=j, i \text{ swapped}) = \operatorname{Pr}(L_i=j)\cdot \operatorname{Pr}(i \text{ swapped}) = p_np_s$

$i,j \in \{1,\dots,n\}$

1. $n$$j$$i$$i$

   $\quad \displaystyle \operatorname{Pr}(L_i = j) = p_n(1-p_s) = \frac{1}{n}\cdot\frac{n}{n+1} = \frac{1}{n+1}$

2. $j$$j$$i$$i$

   $\quad \displaystyle \operatorname{Pr}(L_{n+1} = j) = \sum_{i=1}^n p_np_s = \sum_{i=1}^n \frac{1}{n}\cdot\frac{1}{n+1} = \frac{1}{n+1}$

3. $i$$i$

   $\quad \displaystyle \operatorname{Pr}(L_i = j) = p_s = \frac{1}{n+1}$

Tudo acabou bem, sua estratégia de inserção realmente preserva a uniformidade. Pelo poder da indução, isso prova que seu algoritmo cria permutações uniformemente distribuídas.

^{Uma palavra de advertência: essa prova se decompõe se os elementos inseridos não diferem entre pares. distinguível, porque a primeira equação não é mais válida. Mas seu algoritmo ainda é válido; toda permutação com duplicatas é gerada pelo mesmo número de execuções aleatórias. Você pode comprovar isso marcando duplicados (ou seja, tornando-os distinguíveis), executando a prova acima e removendo as marcações (virtualmente); o último passo recolhe conjuntos de permutações de tamanhos iguais para o mesmo.}

$(1)$

random_item$L^{(k)}$$\{1,\dots,k\}$

$\pi' \in \mathrm{Perm}_{n+1}$$\{1,\dots,n+1\}$

$\qquad \displaystyle \pi' = (\pi(1), \pi(2), \dots, \pi(i-1), n+1, \pi(i+1), \dots, \pi(n), \pi(i))$

$\pi \in \mathrm{Perm}_n$$i \in \{1,\dots,n+1\}$$\operatorname{Pr}(L^{(n)} = \pi) = \frac{1}{n!}$random_item$i$$\frac{1}{n+1}$$\pi$$i$

$\qquad \displaystyle \operatorname{Pr}(L^{(n+1)} = \pi') = \operatorname{Pr}(L^{(n)} = \pi) \cdot \operatorname{Pr}(i \text{ swapped}) = \frac{1}{(n+1)!}$

o que tivemos que mostrar. Pelo poder da indução, isso prova que seu algoritmo cria permutações uniformemente distribuídas.

1. $\{(1, 2, 3, 4), (2, 3, 4, 1), (3, 4, 1, 2), (4, 1, 2, 3)\}$$\frac{1}{4}$$0$