O que Turing quis dizer ao dizer que "as máquinas não podem causar surpresas" se deve a uma falácia?

29

Encontrei abaixo a declaração de Alan M. Turing aqui :

"A visão de que as máquinas não podem causar surpresas se deve, creio eu, a uma falácia à qual filósofos e matemáticos estão particularmente sujeitos. Essa é a suposição de que, assim que um fato é apresentado à mente, todas as conseqüências desse fato surgem. a mente simultaneamente com ela. É uma suposição muito útil em muitas circunstâncias, mas esquece-se muito facilmente que ela é falsa ".

Eu não sou um falante nativo de inglês. Alguém poderia explicar isso em inglês simples?

turing-machines computability computation-models

— smwikipedia
fonte

2

talvez, seja mais adequado para o portal de filosofia do que para ciências científicas como o CS

— Bulat

3

@Bulat, eu diria o mesmo - e redirecionaria para os alunos de inglês - mas percebi que existe algum conteúdo relacionado ao CS que pode ser explicado em uma resposta, que provavelmente não seria encontrada em outras partes do Stack Exchange.

— David Richerby

7

Um bom exemplo é a iteração da transformação z: = z² + c , em que z e c são números complexos. O que acontece se eu pegar algum ponto de partida no plano z e iterar, o número vai para o infinito ou não? Um sujeito comum diria, sim, isso lhe dará duas regiões ou talvez mais onde o valor chega a zero e, no restante, ao infinito. Relativamente surpreendente. Então Mandelbrot aparece e, na verdade, representa as regiões no plano definido por essa "máquina" simples. Como o resultado sai da impressora dotmatrix, esta simples "máquina" prova-se ... estranha.

— David Tonhofer 19/04

O Facebook e outras mídias sociais são um ótimo exemplo disso ... Muitas das consequências de seus algoritmos não são algo que era esperado pelos criadores (ou por alguém realmente).

— aslum 19/04

Um indivíduo bastante peculiar uma vez se referiu a isso usando uma metáfora do fogo: "Quanto maior você constrói sua fogueira de conhecimento, mais trevas são reveladas aos seus olhos assustados"

— JacobIRR

30

Os matemáticos e filósofos geralmente assumem que as máquinas (e aqui, ele provavelmente significa "computadores") não podem nos surpreender. Isso ocorre porque eles assumem que, uma vez que aprendemos algum fato, entendemos imediatamente todas as consequências desse fato. Isso geralmente é uma suposição útil, mas é fácil esquecer que é falso.

Ele está dizendo que sistemas com descrições simples e finitas (por exemplo, máquinas de Turing) podem exibir um comportamento muito complicado e que isso surpreende algumas pessoas. Podemos entender facilmente o conceito de máquinas de Turing, mas depois percebemos que elas têm conseqüências complicadas, como a indecidibilidade do problema de parada e assim por diante. O termo técnico aqui é que "o conhecimento não é fechado com dedução". Ou seja, podemos saber algum fato , mas não sei , apesar implica . $A$ $B$ $A$ $B$

Honestamente, porém, não tenho certeza de que o argumento de Turing seja muito bom. Talvez eu tenha o benefício de escrever quase 70 anos depois de Turing, e meu entendimento é que o matemático típico sabe muito mais sobre lógica matemática do que na época de Turing. Mas parece-me que os matemáticos estão familiarizados com a idéia de sistemas simples com comportamento complexo. Por exemplo, todo matemático conhece a definição de um grupo , que consiste em apenas quatro axiomas simples. Mas ninguém - hoje ou então - pensaria: "Ah! Eu conheço os quatro axiomas, portanto conheço todos os fatos sobre grupos". Da mesma forma, os axiomas de Peano fornecem uma descrição muito curta dos números naturais, mas ninguém que os lê pensa "Certo, agora conheço todos os teoremas sobre os números naturais. Vamos"

— David Richerby
fonte

22

Historicamente, o início do século XX tinha uma forte crença acadêmica em "resolver" a matemática. Por exemplo, o programa de Hilbert e o Principia Mathematica de Whitehead + Russel . O trabalho de Godel resolveu essa busca negativamente, mas imagino que levou algum tempo para a academia abraçar completamente essa noção; mesmo reconhecendo plenamente a veracidade de Godel, as pessoas ainda se lembrariam das grandes idéias de Hilbert. Eu acho que Turing escrevendo apenas duas décadas depois de Godel abordar sua audiência com esse contexto em mente.

— BurnsBA 19/04

7

Eu questionaria se a maioria dos matemáticos conhece "muito mais sobre lógica matemática" do que Turing. Mas é óbvio que quase todos os humanos contemporâneos têm uma experiência muito mais prática do que as máquinas (e particularmente os computadores) podem fazer do que ele.

— alephzero 19/04

4

@alephzero Não foi isso que eu disse! Eu disse que o matemático médio hoje sabe mais sobre lógica matemática do que o matemático médio durante o tempo de Turing.

— David Richerby 19/04

14

Seu argumento parece não ser que o argumento de Turing não seja bom, mas que seja desnecessário ou direcionado a um homem de palha. Eu suspeito fortemente que Turing fez pessoas reais argumentarem assim com ele, então eu não acho que ele esteja criando um palhaço do nada. Como afirma um lagarto discreto em um comentário, Turing está apenas dizendo que um argumento particular contra máquinas que nos surpreendem é ruim. Sua resposta apenas diz que esse argumento é ruim se tornou ainda mais óbvio ao longo do tempo. Dito isto, as pessoas (embora geralmente não sejam especialistas) ainda hoje argumentam nesse sentido.

— Derek Elkins

É a ausência de fechamento epistêmico.

— Dan D.

19

Apenas um exemplo - dadas as regras do xadrez, qualquer um deve descobrir imediatamente a melhor estratégia para jogar xadrez.

Claro, isso não funciona. Mesmo as pessoas não são iguais, e os computadores podem ter um desempenho superior a nós devido às suas melhores habilidades para tirar conclusões dos fatos.

— Bulat
fonte

1

Não tenho certeza se esse é um bom exemplo. As pessoas criam prontamente estratégias de xadrez, assim que compreendem adequadamente as regras, e embora essas estratégias sejam obviamente falhas e inúteis contra jogadores mais experientes e com os mecanismos modernos, elas teriam sido boas o suficiente contra os primeiros mecanismos de xadrez do computador.

— leftaroundabout

1

O que quero dizer exatamente é que não apenas as pessoas são diferentes, mas os computadores também são diferentes; portanto, os computadores estúpidos da época de Turing não significam que eles sempre serão estúpidos. Talvez você precise saber que Turing morreu muito antes de os computadores começarem a jogar xadrez.

— Bulat 21/04

1

Penso que este é um bom exemplo e captura a essência do parágrafo de Turing.

— copper.hat

@leftaroundabout Então ..., o xadrez é um empate quando jogado da melhor maneira ou uma vitória por branco ou por preto? Mais ao ponto: uma descoberta relativamente recente de que jogos finais extremamente longos possivelmente levaram a uma revisão das regras de 50 movimentos - essa descoberta seria considerada uma "surpresa" no sentido da citação

— Hagen von Eitzen

12

Essa é a idéia de emergência , que é quando o comportamento complexo resulta da interação de regras relativamente simples. Existem muitos exemplos disso por natureza, como esse link aponta. Colônias de insetos, bandos de pássaros, cardumes de peixes e, claro, consciência. Em um bando de pássaros ou cardume de peixes, cada indivíduo no enxame só toma decisões com base nos outros que os cercam imediatamente, mas quando você agrupa um grupo desses indivíduos, seguindo todas essas regras, começa a ver um comportamento mais coordenado do que você esperaria sem um plano de nível superior. Se você for ao Youtube e assistir a demonstrações de enxames de robôs, você vê que todos evitam se bater e trabalham em uníssono. Surpreendentemente, isso não precisa ser conseguido com um único computador central coordenando o comportamento de cada robô individual, mas pode ser feito usando robótica de enxame , onde, como os insetos, os pássaros ou os peixes, cada robô está tomando decisões locais que levam coordenação emergente.

Outra demonstração interessante de comportamento emergente é o Jogo da Vida de Conway . As regras do jogo são extremamente simples, mas podem levar a resultados muito fascinantes

Um argumento tentador contra a capacidade dos computadores de obter inteligência humana é dizer que, como eles só podem fazer exatamente o que estão programados para fazer, devem exibir apenas a inteligência com a qual os programamos. Se isso fosse verdade, também não esperamos que o comportamento relativamente simples dos neurônios dê origem à inteligência humana. No entanto, tanto quanto podemos dizer, esse é o caso e a consciência é uma propriedade emergente do processamento neural. Tenho certeza de que Turing adoraria ver o que é possível hoje com o uso de redes neurais artificiais

— mowwwalker
fonte

2

Obrigado por mencionar o surgimento. Você adiciona algum otimismo ao meu pessimismo sobre a IA através da computação .

— smwikipedia 20/04

9

As pessoas podem supor que, se eu escrever um programa e entender completamente o algoritmo, e não houver erros, eu deveria saber qual seria a saída desse programa e que isso não deveria me surpreender.

Turing diz (e eu concordo) que este não é o caso: a saída pode ser surpreendente. A solução para um problema de vendedor ambulante pode ser surpreendente. A melhor maneira de construir um somador completo pode ser surpreendente. A melhor jogada em um jogo de xadrez pode ser surpreendente.

— gnasher729
fonte

Isso explica por que os computadores podem surpreender qual é a primeira metade da citação, mas você não aborda a parte da citação que explica por que um argumento específico que as máquinas não podem surpreender é falacioso.

— Lagarto discreto