Técnicas avançadas para determinar limites inferiores da complexidade

Alguns de vocês podem estar seguindo esta pergunta , que foi encerrada por não estar em nível de pesquisa. Então, estou extraindo a parte da pergunta que está no nível da pesquisa.

Além das técnicas "mais simples", como reduzir a classificação ou um problema EXPTIME-complete, quais técnicas foram usadas para provar limites mais baixos para a complexidade temporal de um problema?

Em particular:

• Quais são as técnicas "de ponta" desenvolvidas na última década?
• Podem ser aplicadas técnicas da Álgebra Abstrata, da Teoria da Categoria ou de outros ramos da matemática tipicamente "pura"? (Por exemplo, ouço muitas vezes menção à "estrutura algébrica" ​​da classificação, sem nenhuma explicação real do que isso significa.)
• O que são resultados significativos, mas menos conhecidos, para a complexidade dos limites inferiores?

Limites inferiores para circuitos algébricos

No cenário de circuitos algébricos, onde um limite inferior no tamanho do circuito é análogo a um limite inferior no tempo, muitos resultados são conhecidos, mas existem apenas algumas técnicas básicas nos resultados mais modernos. Eu sei que você pediu limites inferiores no tempo, mas acho que em muitos casos a esperança é que os limites inferiores algébricos um dia levem a limites inferiores da máquina booleana / Turing. Esses resultados geralmente usam técnicas mais profundas da "matemática pura", como você diz.

I. O grau vinculado.

Strassen mostrou que o log do grau de uma certa variedade algébrica associada a uma (conjunto de) função (s) é um limite inferior do tamanho do circuito algébrico da computação dessas funções.

II Componentes conectados (ou mais geralmente a dimensão de qualquer grupo de homologia superior).

Ben-Or mostrou que o tamanho de uma árvore de decisão algébrica real que decide ser membro de um conjunto (semi-algébrico) é pelo menos que C é o número de componentes conectados desse conjunto. Ben-Or usou isso para provar um limite inferior de Ω ( n log n ) na classificação (bem, distinção de elementos, mas distinção de elementos se reduz à classificação) no modelo de árvore de decisão algébrica real. Yao estendeu isso dos componentes conectados à soma dos números de Betti e provou limites inferiores ideais para outros problemas (como k- iguais)). Em um artigo diferente, Yao estendeu isso para árvores de decisão algébricas sobre os números inteiros.$\log C$$C$$\Omega(n \log n)$$k$

III Derivados parciais.

Este tem sido o cavalo de batalha de muitos dos limites inferiores do circuito algébrico moderno. Acredito que derivadas parciais foram usadas pela primeira vez para provar um limite inferior de Baur-Strassen, onde mostraram que o cálculo de todas as primeiras parciais de pode ser feito no tamanho 5 s, onde s é o tamanho necessário para calcular f . Combinado com o limite de grau de Strassen, isso deu limites inferiores ao tamanho Ω ( n log n ) em várias funções, que ainda são os limites inferiores mais fortes no tamanho de circuitos aritméticos irrestritos para uma função explícita.$f$$5s$$s$$f$$\Omega(n \log n)$

O uso mais recente de derivadas parciais parece originar-se de um artigo de Nisan no qual ele demonstrou limites mais baixos em circuitos não comutativos, considerando a dimensão do espaço de todas as derivadas parciais. Isso foi usado para provar limites inferiores em tipos restritos de circuitos de profundidade 3 por Nisan-Wigderson, e idéias semelhantes foram usadas para provar limites inferiores no tamanho da fórmula multilinear de Raz (e modelos relacionados de Raz e colaboradores). Os limites mais recentes de profundidade 4 e profundidade 3 de Gupta, Kayal, Kamath e Saptharishi usam uma generalização dessa idéia, para contar a dimensão do espaço das "derivadas parciais deslocadas" - onde você pode obter derivadas parciais e depois multiplicar por quaisquer monômios de um determinado grau. ) pode "apenas" ser uma questão de entender melhor o ideal gerado por menores permanentes (veja a conjectura no final de seu artigo).$\mathrm{VP} \neq \mathrm{VNP}$

IV Definindo equações para variedades.

A idéia aqui é associar às "funções fáceis" uma certa variedade algébrica, encontrar equações que desaparecem nessa variedade e mostrar que essas equações não desaparecem na sua "função difícil". (Portanto, provar que sua função difícil não está na variedade de funções fáceis, de modo que é realmente difícil.) Especialmente útil em limites inferiores na multiplicação de matrizes. Consulte Landsberg - Ottaviani no arXiv para obter as últimas e referências a limites inferiores anteriores.

(De fato, I, II e III acima podem ser vistos como casos especiais de encontrar equações definidoras para certas variedades, embora as provas que usam I, II, III nunca sejam essencialmente formuladas dessa maneira, pois não havia realmente um preciso.)

V. Teoria da representação, esp. como na teoria da complexidade geométrica.

Na verdade, também usado por Landsberg - Ottaviani para encontrar algumas equações para uma certa variedade. Também usado por Burgisser-Ikenmeyer para obter uma prova teórica da representação "puramente" de um limite inferior ligeiramente mais fraco na multiplicação de matrizes. Conjecturado por Mulmuley e Sohoni (cf. "geométricos Complexidade Teoria I & II") para ser útil para resolver vs V N P e, finalmente, N P vs P / p o l y .$\mathrm{VP}$$\mathrm{VNP}$$\mathrm{NP}$$\mathrm{P/poly}$

Kaveh sugeriu gentilmente em sua resposta que eu deveria dizer alguma coisa. Não tenho muito mais para contribuir para esta lista bem abrangente de respostas. Posso acrescentar algumas palavras genéricas sobre como os limites inferiores da "complexidade estrutural" evoluíram nos últimos dez anos. (Eu uso o nome "complexidade estrutural" simplesmente para distinguir de algébrico, complexidade de comunicação etc.)

As abordagens atuais ainda se baseiam amplamente na diagonalização e, em particular, no seguinte paradigma básico: Comece assumindo o oposto do limite inferior. Isso fornece um bom algoritmo para algum problema. Tente usar esse algoritmo para contradizer algum teorema da hierarquia com base na diagonalização, como a hierarquia do tempo ou a hierarquia do espaço. Como os argumentos de diagonalização por si só não são suficientes para provar novos limites inferiores, outros ingredientes são adicionados à mistura para obter a receita contraditória.

Devo dizer que também se pode dizer que muitos argumentos dos anos 70 e 80 seguem o padrão acima; a principal diferença hoje em dia são os "outros ingredientes" - há muitos ingredientes para escolher, e as maneiras pelas quais os ingredientes podem ser aplicados parecem ser limitadas apenas pela sua própria criatividade. Às vezes, quando você não sabe como misturar ingredientes específicos para obter uma receita melhor, mas entende muito bem como eles podem ser misturados, ajuda a codificar um programa de computador que sugere novas receitas para você.

$NEXP \not\subset ACC$

As técnicas dependem do modelo e do tipo de recurso em que queremos obter um limite inferior. Observe que, para provar um limite mais baixo da complexidade de um problema, primeiro temos que consertar um modelo matemático de computação: um limite mais baixo para um estado de problema é que nenhum algoritmo usando uma certa quantidade de recursos pode resolver o problema, ou seja, estamos quantificando universalmente sobre algoritmos. Precisamos ter uma definição matemática do domínio da quantificação. (Isso geralmente é verdadeiro para resultados de impossibilidade.) Portanto, os resultados de limite inferior são válidos apenas para um modelo específico de computação. Por exemplo, o$\Omega(n \log n)$O limite inferior para classificação funciona apenas para algoritmos de classificação baseados em comparação, sem essa restrição e em modelos de computação mais gerais, pode ser possível resolver a classificação mais rapidamente e até em tempo linear. (Veja o comentário de Josh abaixo.)

Aqui estão alguns métodos diretos básicos de provar limites inferiores na teoria da complexidade computacional para os modelos mais gerais de computação (máquinas de Turing e circuitos).

I. Contagem:

Idéia: Mostramos que existem mais funções que algoritmos.

Ex: Existem funções que requerem circuitos exponencialmente grandes.

O problema com esse método é que ele é um argumento existencial e não fornece nenhuma função explícita ou qualquer limite superior à complexidade do problema que provou ser difícil.

II Combinatória / Algébrica:

Idéia: Analisamos os circuitos e mostramos que eles têm uma propriedade específica, por exemplo, as funções calculadas por eles podem ser aproximadas por alguma classe agradável de objeto matemático, enquanto a função de destino não possui essa propriedade.

Ex: o lema de comutação de Håstad e suas variantes usam a árvore de decisão para aproximar , Razborov-Smolensky usa polinômios sobre os campos para aproximar funções , etc. A C 0 [ p $\mathsf{AC^0}$$\mathsf{AC^0}[p]$

O problema desse método é que, na prática, ele só funcionou para turmas pequenas e relativamente fáceis de analisar. Há também a barreira de Provas Naturais de Razborov-Rudich, que de certa forma formaliza por que é improvável que propriedades simples por si só sejam suficientes para provar limites mais baixos de circuitos mais gerais.

O artigo de Razborov " Sobre o método de aproximação " argumenta que o método de aproximação está completo para provar limites inferiores em certo sentido.

III Diagonalização:

Idéia. Diagonalizamos as funções da classe menor. A ideia remonta a Gödel (e até a Cantor).

Ex. Teoremas da hierarquia temporal , teorema da hierarquia espacial , etc.

$\mathsf{P}$$\mathsf{PSpace}$$\mathsf{P}$$\mathsf{PSpace}$

Também temos a barreira da relativização (voltando a Baker, Gill e Solovay) e a barreira da algebraização (de Aaronson e Wigderson), que afirmam que tipos específicos de argumentos de diagonalização serão transferidos para outras configurações em que o resultado é comprovadamente falso.

Observe que essas barreiras não se aplicam a argumentos de diagonalização mais gerais. De fato, no artigo de Dexter Kozen " Indexação de classes sub-recursivas ", a diagonalização é completa para provar limites inferiores.

Como você já deve ter notado, existe uma forte relação entre encontrar bons simuladores universais para uma classe de complexidade e separar essa classe de complexidade de classes maiores (para uma declaração formal, consulte o artigo de Kozen).

Trabalhos recentes

Para avanços recentes, consulte os documentos recentes de Ryan Williams . Não os discuto nesta resposta, pois espero que o próprio Ryan escreva uma resposta.

Árvores de decisão algébricas

Esta não é uma técnica recente, mas que é bastante poderosa para certos problemas.

$n$$d$

• $v$$q_v(x_1, \dots, x_n)$$d$$x_i-x_j$$i$$j$

• $-1$$0$$+1$

• $\{1,2,\dots,n\}$

$\vec{x}\in\mathbb{R}^n$

$\Omega(n^d)$

$\ell$$R(\ell) \subseteq \mathbb{R}^n$$\ell$$R(\ell)$$\mathbb{R}^n$$t = \text{depth}(\ell)$$d$$d$$(dt)^{O(n)}$

$W\subseteq\mathbb{R}^n$$d$$t$$W$$3^t (dt)^{O(n)}$$t = \Omega(\log \#W - n\log d)$

$n$$W$$n!$$n$$\Omega(n\log n)$

$\Omega(n\log n)$

$R(\ell)$$(dt)^{O(n)}$

$n^{O(n)}$$n\log n$

$\Omega(n^2)$$O(n^4\log n)$$2^{O(n)}$$\mathbb{R}^n$$n^4\log n$$k$$k$$k$$k$$O(n^{k/2})$$O(n^4\log n)$polinômios de consulta; esse tempo de construção é livre no modelo de limite inferior.

Viva para resultados duplos negativos!

Manindra Agrawal tem um belo artigo "Proving Bound Lower via Psuedorandom Generators". Isso pode ser considerado um "azarão" na corrida para provar limites mais baixos, mas o artigo é interessante.

esta é uma pesquisa de 32p que apenas apareceu no assunto, focando no ângulo dos limites inferiores do circuito (há uma forte sobreposição no conteúdo com outras respostas aqui).

• Algoritmos versus limites mais baixos do circuito de Oliveira

Diferentes técnicas foram usadas para provar vários teoremas de transferência da forma "algoritmos não triviais para um circuito de classe C que produzem limites mais baixos contra C". Nesta pesquisa, revisitamos muitos desses resultados. Discutimos como os limites inferiores do circuito podem ser obtidos a partir de algoritmos de des aleatorização, compressão, aprendizado e satisfação. Também cobrimos a conexão entre limites inferiores do circuito e propriedades úteis, uma noção que acaba sendo fundamental no contexto desses teoremas da transferência. Ao longo do caminho, obtemos alguns novos resultados, simplificamos várias provas e mostramos conexões envolvendo diferentes estruturas. Esperamos que nossa apresentação sirva como uma introdução independente para os interessados ​​em realizar pesquisas nessa área.