Quais são algumas implicações dos teoremas de Gödel na pesquisa de IA?

Nota: Minha experiência com o teorema de Gödel é bastante limitada: li Gödel Escher Bach; desnatou a primeira metade da Introdução ao Teorema de Godel (de Peter Smith); e algumas coisas aleatórias aqui e ali na internet. Ou seja, só tenho uma vaga compreensão de alto nível da teoria.

Na minha humilde opinião, o teorema da incompletude de Gödel (e seus muitos teoremas relacionados, como o problema de Halting e o teorema de Löbs) estão entre as descobertas teóricas mais importantes.

No entanto, é um pouco decepcionante observar que não existem muitas (pelo menos que eu saiba) aplicações teóricas dos teoremas, provavelmente em parte devido à 1. natureza obtusa da prova 2. às fortes implicações filosóficas que as pessoas não são disposto a comprometer-se facilmente.

Apesar disso, ainda existem algumas tentativas de aplicar os teoremas em um contexto de filosofia da mente / IA. Em cima da minha cabeça:

O argumento de Lucas-Penrose : O qual argumenta que a mente não é implementada em um sistema formal (como no computador). (No entanto, não é uma prova muito rigorosa)

Aparentemente, algumas das pesquisas da MIRI usam o Löbs Thereom, embora o único exemplo que conheço seja a cooperação com agentes da Löbian.

Tudo isso é muito legal, mas existem mais alguns exemplos? Especialmente aqueles que são realmente considerados seriamente pela comunidade acadêmica.

(cf. Quais são as implicações filosóficas do primeiro teorema da incompletude de Gödel? em SE)

Definitivamente, existem muitas implicações para a IA, incluindo:

1. A inferência com a lógica de primeira ordem é semi-decidível. Essa é uma grande decepção para todas as pessoas que queriam usar a lógica como ferramenta primária de IA.

2. A equivalência básica de duas instruções lógicas de primeira ordem é indecidível, o que tem implicações para sistemas e bancos de dados baseados em conhecimento. Por exemplo, a otimização de consultas ao banco de dados é um problema indecidível por causa disso.

3. A equivalência de duas gramáticas sem contexto é indecidível, o que é um problema para a abordagem lingüística formal em relação ao processamento de idiomas.

4. Ao fazer o planejamento na IA, apenas encontrar um plano viável é indecidível para algumas linguagens de planejamento necessárias na prática.

5. Ao gerar a geração automática de programas - somos confrontados com vários resultados de decisão, pois qualquer linguagem de programação razoável é tão poderosa quanto uma máquina de Turing.

6. Finalmente, todas as perguntas não triviais sobre um paradigma de computação expressivo, como redes Perti ou autômatos celulares, são indecidíveis.

Escrevi um extenso artigo sobre isso há cerca de vinte anos, publicado em Engineering Applications of Artificial Intelligence 12 (1999) 655-659 . É bastante técnico e você pode lê-lo na íntegra no meu site pessoal, mas aqui está a conclusão:

No exposto acima, foi mostrado que existem infinitas construções de prova no teorema de Gödel - em contraste com a única que foi usada em discussões sobre inteligência artificial até agora. Embora todas as construções que foram realmente divulgadas possam ser imitadas por um computador, é evidente que existem construções que ainda não foram divulgadas. Nossa análise mostrou que podem existir construções que só podem ser descobertas por humanos. Este é um pequeno e definitivamente improvável 'talvez' que depende dos limites da imaginação humana.

Portanto, as pessoas que defendem a equivalência matemática de humanos e máquinas devem, em última instância, confiar em sua crença em uma mente limitada, o que implica que sua conclusão está contida em sua suposição. Por outro lado, as pessoas que defendem a superioridade humana devem assumir essa superioridade em seus argumentos matemáticos, em última análise, apenas derivando a conclusão que já estava presente em seu sistema de raciocínio desde o início.

Portanto, não é possível produzir argumentos (meta) matematicamente sólidos a respeito da relação entre a mente humana e a Máquina de Turing sem supor na mente humana que é ao mesmo tempo a conclusão do argumento. Portanto, o assunto é indecidível.

Disclaimer: Eu deixei a academia desde então, então não conheço o pensamento contemporâneo.

Encontrei este artigo do matemático e filósofo Solomon Feferman na palestra de Gödel, em 1951, sobre Gibbs, sobre certas consequências filosóficas dos teoremas da incompletude , enquanto lia o seguinte artigo da Wikipedia

Filosofia da inteligência artificial ,

cujo resumo nos dá (como esperado) uma idéia de alto nível do que é discutido da mesma maneira:

Esta é uma análise crítica da primeira parte da palestra de Gödel, em 1951, sobre Gibbs, sobre certas consequências filosóficas dos teoremas da incompletude.

A discussão de Gödel é estruturada em termos de uma distinção entre matemática objetiva e matemática subjetiva , segundo a qual a primeira consiste nas verdades da matemática em um sentido absoluto, e a segunda consiste em todas as verdades humanamente demonstráveis.

A questão é se elas coincidem; se o fizerem, nenhum sistema axiomático formal (ou máquina de Turing ) pode compreender as potencialidades matemáticas do pensamento humano e, se não, existem problemas matemáticos absolutamente insolúveis da forma diofantina.

Ou ... a mente humana ... supera infinitamente os poderes de qualquer máquina finita, ou então existem problemas diofantinos absolutamente insolúveis.

o que pode ser de interesse, pelo menos filosoficamente, para a pesquisa em IA. Receio que este artigo possa ser semelhante ao artigo ao qual você está vinculando sobre "tentativas ou argumentos filosóficos" de Lucas e Penrose.