Esforço computacional de algoritmos


9

O:=minxRnf(x).xoptx0xopt.xϵO

||xxopt||2||x0xopt||2ϵ.

Suponha que existam dois algoritmos iterativos A1 e A2 para encontrar uma solução ϵ close de O com as seguintes propriedades:

  1. Para qualquer ϵ>0, o esforço computacional total, ou seja, o esforço necessário por iteração × o número total de iterações, para encontrar uma solução ϵ close é o mesmo para ambos os algoritmos.
  2. O esforço por iteração para A1 é O(n), exemplo, enquanto que o A2 é O(n2).

Existem situações em que um prefere um algoritmo ao outro? Por quê?

Respostas:


14

Normalmente, é muito difícil, se não impossível, implementar uma versão paralela de um algoritmo iterativo que paraleliza as iterações. A conclusão de uma iteração é um ponto de sequência natural. Se um algoritmo requer menos iterações, mas mais trabalho por iteração, é mais provável que esse algoritmo possa ser efetivamente implementado em paralelo.

Um exemplo disso é a programação linear, em que o método da barreira primária-dupla (ponto interior) normalmente usa apenas algumas dezenas de iterações, mesmo para problemas muito grandes, mas o trabalho por iteração é bastante extenso. Em comparação, várias versões do método simplex normalmente exigem muito mais iterações, mas o trabalho por iteração é menor. Na prática, implementações paralelas de métodos de pontos interiores mostraram eficiência paralela muito melhor do que implementações paralelas do método simplex.


7

Eu posso pensar em algumas possibilidades:

Se ambos os algoritmos reduzirem monotonicamente o erro a cada iteração, talvez seja preferível que alguns tenham iterações mais baratas, pois oferecem mais opções sobre quando parar a iteração.

Se é trabalho e tempo, mas memória, você pode preferir se for grande. pode até ser grande o suficiente para fazer com que você selecione pois o uso da memória tem mais chances de restringi-lo aqui.A1O(n)O(nk)A2kk=2A2

Isso provavelmente se aplica se estamos falando sobre otimização ou qualquer outra classe de problema iterativo.


Eu concordo com você no que diz respeito às restrições de espaço. Eu queria saber se alguém pode argumentar apenas com base na complexidade do tempo.
Suresh
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.