Quando encontramos limites melhores para algoritmos conhecidos?

16

Existem exemplos interessantes de algoritmos que foram publicados com limites comprovados e onde limites estritamente melhores foram publicados posteriormente? Algoritmos não melhores com limites melhores - obviamente, isso aconteceu! Mas uma melhor análise leva a uma melhor ligação a um algoritmo existente

Eu pensei que a multiplicação de matrizes fosse um exemplo disso, mas eu me convenci disso (talvez incorretamente!) Depois de tentar entender melhor o Coppersmith – Winograd e seus amigos.

ho.history-overview analysis-of-algorithms

— Rob Simmons
fonte

Um exemplo ideal é a multiplicação de matrizes. As melhorias recentes são, de fato, melhores análises (Le Gall, Williams, etc.).

— Lwins

Lwins - Eu suspeitava que poderia ser o caso, mas vasculhar alguns dos papéis me fez pensar que eles estavam variando ligeiramente o algoritmo e a análise. Talvez eu precise olhar mais fundo.

— Rob Simmons

Isso é uma meia-resposta, já que é um boato em segunda mão: ao trabalhar na determinação de autômatos Buechi ( dl.acm.org/citation.cfm?id=1398627 ), Safra originalmente analisou sua construção para ter um expoente quadrático. Então, depois de escrever a construção e, devido a algum mal-entendido, ele acabou com o melhor (ótimo)

expoente.

n \log n

$n\log n$

— Shaull

Eu sugeriria investigar os problemas de planejamento de movimento - sinto que houve vários casos por lá. Além disso, o IIRC, a complexidade precisa dos algoritmos simplex (s?), Foi uma questão de estudo por um bom tempo.

— Steven Stadnicki 08/08/19

1

Um pouco diferente, mas a prova de existência de uma entrada que satisfaz

das cláusulas em uma instância 3SAT foi aprimorada para um algoritmo explícito por uma análise mais cuidadosa.

7 m / 8

$7m/8$

— Stella Biderman

23

O algoritmo Union-Find, que Tarjan ¹ mostrou ter complexidade $n \alpha(n)$ , onde $\alpha(n)$ é a função inversa de Ackermann, havia sido analisado anteriormente por várias pessoas. Segundo a Wikipedia, foi inventado por Galler e Fischer ² , mas isso parece estar incorreto, pois eles não tinham todos os componentes do algoritmo necessários para fazê-lo funcionar tão rapidamente.

Com base em breves varreduras dos artigos, parece que o algoritmo foi inventado por Hopcroft e Ullman ³ , que deram um limite de tempo (incorreto) para $O(n)$ . Fischer ⁴ então encontrou o erro na prova e deu um tempo $O(n \log\log n)$ . Em seguida, Hopcroft e Ullman ⁵ deram um limite de tempo $O(n \log ^*n)$ , após o qual Tarjan ¹ encontrou o limite de tempo $O(n \alpha(n))$ ideal) .

¹ RE Tarjan, "Eficiência de um algoritmo de união de conjuntos bom, mas não linear" (1975).
² BS Galler e MJ Fischer, "Um algoritmo de equivalência aprimorado" (1964).
³ JE Hopcroft e JD Ullman, "Um algoritmo de fusão de lista linear" (1971).
⁴ MJ Fischer, "Eficiência de algoritmos de equivalência" (1972).
⁵ JE Hopcroft e JD Ullman, "Algoritmos de fusão de conjuntos" (1973).

— Peter Shor
fonte

2

O histórico dessa estrutura de dados é um pouco obscuro para mim e seria bom investigá-lo. Examinei o artigo de Galler e Fischer e parece descrever a estrutura de dados da Disjoint Sets Forest (DSF), mas sem as heurísticas cruciais de compactação de caminho (PC) e união ponderada (WU). Hopcroft e Ullman atribuem DSF com PC e sem WU a Tritter, citando Knuth. Não tenho certeza se o DSF com PC e WU foi proposto em um artigo publicado antes do artigo de Hopcroft e Ullman, embora eu não ficasse surpreso se fosse.

— Sasho Nikolov

1

@ Sasho: Tudo isso deve ser verificado, pois é baseado em breves digitalizações dos papéis. Tarjan atribui o DSF com PC e WU a Michael Fischer, em "Eficiência de algoritmos de equivalência" (1972), que fornece um tempo de execução de

para ele. Digitalizar papel de Fischer, ele parece atribuir o algoritmo para Hopcroft e Ullman em "Uma lista linear fusão algoritmo", mas eles dão um

tempo de execução para ele, a prova de que mostra Fischer está incorreto. Tarjan diz que Hopcroft e Ullman, em "algoritmos Set-fusão" redimir-se, dando um

ligada.

O (n \log \log n)

$O(n \log\log n)$

Θ (n)

$\Theta(n)$

O (n \log^{*} n)

$O(n \log^* n)$

— Peter Shor

12

Sabe-se que o algoritmo de Paturi, Pudlák, Saks e Zane (PPSZ) para $k\text{-} \mathrm{SAT}$ possui um tempo de execução de $O(1.364^n)$ para $3\text{-}\mathrm{SAT}$ , com um limite melhor de $O(1.308^n)$ para fórmulas com garantia de uma atribuição satisfatória exclusiva. Mais tarde, Hertli fez uma análise aprimorada, mostrando que esse limite aprimorado de tempo de execução também vale para o caso geral, mostrando assim o PPSZ como o melhor algoritmo para $3\text{-}\mathrm{SAT}$ conhecido na época.

— Jan Johannsen
fonte

Esta é uma resposta realmente satisfatória! Eu acho que isso e os exemplos Union Find são os melhores exemplos do que eu estava esperando.

— Rob Simmons

8

O Ataque impasse menciona que a análise da peneira número campo geral (quando aplicado a computação logaritmos discretos ao longo $\mathbb{F}_p$ ) passo descida foi tightend, ver parte superior esquerda da página 3. Como esta é a única etapa que não pode ser pré-calculada (se $\mathbb{F}_p$ é fixa), a sua eficácia foi fundamental para o seu ataque.

A análise inicial parece estar em Gordon 92 , onde descida foi orçado semelhante ao precomputation, em $L_p(1/3, 3^{2/3})$ . A análise mais apertado parece ser a partir da tese de Barbulescu , onde é descida orçado em $L_p(1/3, 1.232)$ , onde:

L_{p} (v, c) = \exp ((c + o (1)) (registro p)^{v} (registro registro p)^{1 - v})

$L_p(v, c) = \exp((c+o(1))(\log p)^v (\log \log p)^{1-v})$ Vale ressaltar que este é tecnicamente um custo esperado, e não um limite superior. Isso ainda parece o espírito da pergunta para mim, mas a removerei se não for o que você está procurando.

— Marca
fonte

1

Muito no espírito, obrigado!

— Rob Simmons

5

$k$ $O(n^{k+o(1)})$ $O(n^{2k-2})$ $O(n^{1.98k+O(1)})$

$\Omega(n^k)$

Nota: Uma palestra de Jason Li (e os slides correspondentes) pode ser encontrada no site do TCS + .

$k$

— Clemente C.
fonte

4

$k$ $(2k-1)$ $k$

— Chandra Chekuri
fonte

4

$3$ forneça uma análise mais refinada (contando subproblemas / subestruturas), levando a melhores recorrências e, portanto, melhores tempos de execução. Acho que existem vários exemplos na literatura de complexidade parametrizada, em que adicionar outra variável à análise pode levar a tempos de execução aprimorados, mas estou fora desse jogo há vários anos e não consigo pensar em exemplos específicos em o momento. Existem vários trabalhos nas áreas do FPT e PTAS que surgem quando se busca "análise aprimorada" nos títulos dos trabalhos.

Se especificar escolhas conta como o mesmo algoritmo (como a heurística de rank de profundidade da union-find), o algoritmo Edmonds-Karp é uma 'análise aprimorada' de Ford-Fulkerson, e eu imagino que existem muitos outros problemas que possuem algoritmos que viram melhorias no tempo de execução das novas regras de escolha.

Depois, há um monte de análises amortizadas dos algoritmos existentes (acho que a união-busca se encaixa nessa descrição, aqui está outra https://link.springer.com/article/10.1007/s00453-004-1145-7 )

— JimN
fonte

Fazer novas escolhas parece próximo do que eu estava procurando, mas não está lá - em certo sentido, um algoritmo mais especificado é um "algoritmo diferente" - mas esses ainda são exemplos muito interessantes!

— Rob Simmons