Que problema não pode ser resolvido por um programa curto?

FUNDO:

Recentemente, tentei resolver um problema difícil que obtém como entrada uma matriz de números. Para , a única solução que encontrei foi ter um tratamento diferente para cada uma das ordenações dos 3 números. Ou seja, existe uma solução para o caso , outra solução para , etc. (o caso pode ser resolvido por qualquer uma dessas duas soluções).$n$$n=3$$n!=6$$A>B>C$$A>C>B$$A>C=B$

Pensando no caso , parece que a única maneira é, novamente, considerar todos os pedidos diferentes e desenvolver uma solução diferente para cada caso. Embora a solução em cada caso específico seja rápida, o próprio programa seria muito grande. Portanto, a complexidade do tempo de execução do problema é pequena, mas a complexidade do "tempo de desenvolvimento" ou da complexidade do "tamanho do programa" é muito grande.$n=4$$n!=24$

Isso me levou a tentar provar que meu problema não pode ser resolvido por um curto programa. Então, procurei referências para provas semelhantes.

O primeiro conceito que encontrei é a complexidade de Kolmogorov ; no entanto, as informações que encontrei sobre esse tópico são muito gerais e incluem principalmente resultados de existência.

QUESTÃO:

Você pode descrever um problema específico da vida real , de modo que qualquer programa que resolva em uma matriz de tamanho deve ter pelo menos , em que é uma função crescente de ?$P$$P$$n$$\Omega(f(n))$$f(n)$$n$

Como a resposta obviamente depende da seleção da linguagem de programação, suponha que programamos em Java ou em uma máquina de Turing - o que for mais confortável para você.

Todo problema indecidível satisfaz trivialmente esse requisito porque não tem solução. Então, eu estou procurando uma linguagem decidível.

Suponho que o que você realmente deseja é uma enumeração de problemas, de modo que os programas correspondentes formem uma sequência crescente de tamanho. Aqui está um exemplo dessa enumeração. No entanto, apenas provo que o tamanho aumenta além de qualquer limite, portanto, não está em$O(1)$, que parecia ser o seu ponto principal. Eu poderia tentar melhor, mas estou imaginando o que nesta resposta pode não ser aceitável na sua opinião da pergunta.

Se bem entendi, você quer uma enumeração $P_n$ de problemas que são todos decidíveis com um algoritmo $A_n$, de modo que não exista um procedimento de decisão uniforme para a união desses problemas, porque, se houvesse um, seria um programa curto quando $n$ fica grande, ou seja, seria $O(1(n))$.

Isso implica que a enumeração $A_n$não é computável. Se fosse computável, aquele seria capaz de calcular o algoritmo$A_n$ a partir do conhecimento de $n$, possuindo, assim, um procedimento uniforme para a união de todos os problemas na enumeração.

Portanto, podemos procurar apenas exemplos de modo que não haja enumeração computável $A_n$ de algoritmos tais que $A_n$ resolve $P_n$.

Antes de entrarmos nisso, precisamos definir o tamanho de um

Deixei $T_n$ ser uma enumeração pelos números de Gödel $n$de máquinas de Turing. Essa enumeração de Gödel é computável. Então deixa$P_n$ seja o seguinte problema: se $T_n$ pára em todas as entradas, $P_n$ consiste em reconhecer o conjunto recursivo reconhecido por $T_n$, outro $P_n$ consiste em reconhecer o conjunto vazio $\emptyset$.

Como estamos procurando limites mais baixos no tamanho do algoritmo $A_n$ que resolve $P_n$, temos que definir o tamanho de uma TM. Para uma TM, seu número de Gödel pode ser considerado como o tamanho da máquina, ou seja, o algoritmo correspondente. De fato, o número de estados e transições aumenta necessariamente com$n$, mesmo que apenas por causa do princípio do buraco do pombo, embora ele não seja necessariamente uniforme (e dependa de uma definição arbitrária de tamanho).

Então, para qualquer TM $T_n$ que sempre param, notamos ${\mu(n)}$ o menor número Gôdel de uma TM $T_{\mu(n)}$ para que sempre pare e reconheça o mesmo conjunto recursivo que $T_n$. Conseqüentemente$T_{\mu(n)}$ é a menor TM que realmente é um algoritmo para resolver $P_n$, ou seja, é $A_n$. E se$T_n$ pode não parar, então para $A_n$ simplesmente usamos sempre um algoritmo correspondente a uma TM $T_\emptyset$ o reconhece o conjunto $\emptyset$, sempre o mesmo.

Cada problema $P_n$ é decidível e $A_n$é um procedimento de decisão. No entanto, a enumeração$A_n$ não é computável, mas mostramos que é inevitável.

É fácil mostrar que, dadas as constantes $C$, há um $n$ tal que o tamanho $|A_n|$ do $A_n$ é melhor que $C$. O motivo é simplesmente que o número de máquinas menores que$C$ é finito, enquanto o número de conjuntos recursivos reconhecidos pelas TMs é infinito.

Portanto, este é um exemplo de um problema (mais precisamente uma enumeração de problemas) que não pode ser resolvido por um programa curto, ou seja, de modo que não exista um limite constante no comprimento das soluções para cada $P_n$.

Podemos sempre adicionar a cada problema $P_n$ que requer qualquer solução para ler primeiro uma matriz de tamanho $n$, de modo a atender à restrição na pergunta. Mas há pouco sentido nisso.

Para qualquer problema, você pode criar uma linguagem de programação em que um programa para codificar a solução para esse problema seja um único caractere. (cf. HQ9 + ). A complexidade de Kolmogorov depende da linguagem. A resposta à sua pergunta sobre quais problemas causam uma explosão dependerá fortemente de qualquer "linguagem formal padrão" que você escolher.

Existem alguns resultados interessantes, no entanto. A codificação de cadeias geradas aleatoriamente sempre exigirá um custo proporcional ao tamanho da cadeia. O princípio do buraco de pombo nos diz que sempre haverá algumas funções, em qualquer linguagem fixa L, que não podem ser expressas em um espaço menor que uma enumeração completa de todos os casos. E o teorema do tamanho de Blum nos diz que, para um idioma total, sempre existem funções que você pode codificar maior que um fator de explosão escolhido arbitrariamente em comparação com a codificação da mesma função em um idioma completo de Turing.

Um resultado dos estados de Shannon de que existe uma sequência de funções $f_n\colon\{0,1\}^n\rightarrow \{0,1\}$ isso é para que o problema $P(n)$ de computação $f_n(x)$ para $x\in\{0,1\}^n$ requer ao menos $\Theta(\frac{2^n}{n})$ operações booleanas (isto é, a complexidade do circuito da computação $f_n(x)$ é pelo menos $\Theta(\frac{2^n}{n})$)

Esse teorema não é tão difícil de obter, pois existem $2^{(2^n)}$ $n$- ara funções booleanas, enquanto o número de circuitos do tamanho especificado é estritamente menor.