Como iterar sobre vetores em ordem de probabilidade no espaço pequeno

Considere um vetor dimensional v em que v i ∈ { 0 , 1 } . Para cada i sabemos p i = P ( v i = 1 ) e vamos assumir o v i são independentes. Usando essas probabilidades, existe uma maneira eficiente de iterar sobre vetores binários n dimensionais, na ordem do mais provável para o menos provável (com opções arbitrárias de vínculos) usando o espaço sublinear no tamanho da saída? $n$$v$$v_i \in \{0,1\}$$i$$p_i = P(v_i = 1)$$v_i$$n$

Tomemos, por exemplo, . O vetor mais provável é ( 1 , 0 , 1 ) e o menos provável é { 0 , 1 , 0 } . $p = \{0.8, 0.3, 0.6\}$$(1,0,1)$$\{0,1,0\}$

Para muito pequeno , poderíamos rotular cada um dos 2 n vetores com sua probabilidade e simplesmente classificar, mas isso obviamente ainda não usaria espaço sublinear.$n$$2^n$

Uma variante aproximada dessa pergunta foi feita anteriormente em /cs/24123/how-to-iterate-over-vectors-in-order-of-probability .

A seguir, é apresentado um algoritmo que usa aproximadamente tempo e 2 n / 2 de espaço.$2^n$$2^{n/2}$

Primeiro, vejamos o problema de classificar as somas de todos os subconjuntos de itens.$n$

Considere este subproblema: você tem duas listas classificadas de comprimento e gostaria de criar uma lista classificada das somas aos pares dos números nas listas. Você gostaria de fazer isso em aproximadamente O ( m 2 ) tempo (o tamanho da saída), mas em espaço sublinear. Podemos alcançar O ( m ) espaço. Mantemos uma fila de prioridade e extraímos as somas da fila de prioridade em ordem crescente.$m$$O(m^2)$$O(m)$

Deixe as listas de ser e b 1 ... b m , classificados em ordem crescente. Tomamos as m somas a i + $a_1 \ldots a_m$$b_1 \ldots b_m$$m$ , i = 1 ... m , e colocá-los em uma fila de prioridade.$a_i + b_1$$i = 1 \ldots m$

Agora, quando extraímos a menor soma restante da fila de prioridade, se j < m , então colocamos a soma a i + b j + 1 na fila de prioridade. O espaço é dominado pela fila de prioridade, que contém sempre a maioria m somas. E o tempo é O ( m 2 log m ) , já que usamos O ( log $a_i + b_j$$j < m$$a_i + b_{j+1}$$m$$O(m^2 \log m)$ para cada operação na fila de prioridade. Isso mostra que podemos fazer o subproblema em O ( m $O(\log m)$ tempo e O ( m ) espaço.$O(m^2 \log m)$$O(m)$

Agora, para classificar as somas de todos os subconjuntos de números, usamos apenas esta sub-rotina em que a lista$n$ é o conjunto de somas de subconjuntos da primeira metade dos itens, ea lista b i é o conjunto de somas de subconjuntos da segunda metade dos itens. Podemos encontrar essas listas recursivamente com o mesmo algoritmo.$a_i$$b_i$

Vamos agora considerar o problema original. Seja o conjunto de coordenadas 0 e S 1 o conjunto de coordenadas 1 . Então Π i ∈ S 0 p ( v i = 0 ) Π i ∈ S $S_0$$0$$S_1$$1$

$$\begin{eqnarray*}\prod_{i \in S_0} p(v_i=0) \prod_{i \in S_1} p(v_i=1) &=& \prod_{1\leq i \leq n} p(v_i=0) \prod_{i \in S_1} \frac{p(v_i=1)}{p(v_i=0)} \\ &=& \prod_{1\leq i \leq n} p(v_i=0) \exp\,\left(\sum_{i \in S_1} \log \frac{p(v_i=1)}{p(v_i = 0)}\right).\end{eqnarray*}$$

Classificar esses números é o mesmo que classificar os números , de modo que têm reduzido o problema para classificar os somas de subconjuntos de n itens.$\sum_{i\in S_1}\log p(v_i=1) - \log p(v_i=0)$$n$

Podemos fazer isso no espaço $O(n)$

1. $x \in \{0,1\}^n$$O(n)$$r(x)$$x$$x'$$p(x') > p(x)$$x'\in \{0,1\}^n$$x'$$p(x') > p(x)$$r(x)$$x$
2. $k$$x$$r(x) = k$$O(n)$$x \in \{0,1\}^n$$x$$r(x)$$x$$r(x) = k$
3. $k$$0$$2^n-1$$k$$x$$r(x) =k$

(Também devemos cuidar de possíveis laços, mas isso não é difícil.)

Editar: esta resposta está incorreta. Veja os comentários para obter detalhes. ~ gandaliter

$O(2^n)$$O(n)$

1. $(i, p_i)$$\left|0.5 - p_i\right|$

2. $v$$v_i$$1$$p_i > 0.5$$0$$v$$v_i$$v$ .

3. Chame essa função recursiva na lista classificada e um vetor vazio.

$0$$1$$0.5$

$O(2^n)$$O(n)$$n$$O(2^n)$$O(n)$$O(2^n)$etapas de tempo. Portanto, esse algoritmo é a complexidade do pior caso ideal.