Devo usar linguagem antropomórfica ao discutir IA?

O idioma inglês não é adequado para falar sobre inteligência artificial, o que dificulta que os humanos se comuniquem entre si sobre o que uma IA está realmente "fazendo". Assim, pode fazer mais sentido usar termos "semelhantes aos humanos" para descrever as ações da maquinaria, mesmo quando as propriedades internas da maquinaria não se assemelham às propriedades internas da humanidade.

A linguagem antropomórfica tinha sido muito usada em tecnologia (consulte a definição de antropomorfização do Hacker Dictionary , que tenta justificar o uso de termos antropômicos por parte dos programadores de computador ao descrever a tecnologia), mas, à medida que a IA continua avançando, pode ser útil considerar as vantagens e desvantagens de usando a linguagem antropomórfica na comunicação com o público técnico e o público não técnico. Como podemos lidar com a IA se não conseguimos descrever o que estamos fazendo?

Suponha que eu queira desenvolver um algoritmo que exiba uma lista de artigos relacionados. Existem duas maneiras pelas quais posso explicar como o algoritmo funciona para um leigo:

1. Muito antropomórfico - o algoritmo lê todos os artigos em um site e exibe os artigos que são muito semelhantes ao artigo que você está visualizando.
2. Muito técnico - o algoritmo converte cada artigo em um "conjunto de palavras" e depois compara o "conjunto de palavras" de cada artigo para determinar quais artigos compartilham as palavras mais comuns. Os artigos que compartilham mais palavras nas malas são os que são exibidos ao usuário.

Obviamente, o número 2 pode ser mais "tecnicamente correto" do que o número 1. Ao detalhar a implementação do algoritmo, torna mais fácil para alguém entender como consertar o algoritmo se ele produzir uma saída com a qual discordamos bastante.

Mas o número 1 é mais legível, elegante e fácil de entender. Ele fornece uma noção geral do que o algoritmo está fazendo, em vez de como o algoritmo está fazendo. Abstraindo os detalhes da implementação de como um computador "lê" o artigo, podemos nos concentrar no uso do algoritmo em cenários do mundo real.

Devo, portanto, preferir usar a linguagem antropomórfica, conforme enfatizado na Declaração 1? Se não, por que não?

PS: Se a resposta depender do público com quem estou falando (um público não técnico pode preferir o número 1, enquanto um público técnico pode preferir o número 2), informe-me também.

Se clareza é o seu objetivo, você deve tentar evitar linguagem antropomórfica - isso corre o risco de, mesmo enganosa -se sobre as capacidades do programa.

Essa é uma armadilha perniciosa na pesquisa de IA, com numerosos casos em que até pesquisadores experientes atribuíram um grau de entendimento maior a um programa do que o que realmente é merecido.

Douglas Hofstadter descreve o assunto detalhadamente em um capítulo intitulado "O efeito inefável de Eliza e seus perigos" e também há um artigo famoso de Drew McDermot, intitulado "Inteligência artificial encontra a estupidez natural" .

Portanto, em geral, deve-se fazer um esforço particular para evitar o antropomorfismo na IA. No entanto, ao falar com um público não técnico, as descrições de 'soundbite' são (como em qualquer disciplina complexa) aceitáveis, desde que você informe ao público que está obtendo a versão simplificada .

O problema que você está referenciando não é apenas um problema de IA, mas um problema para campos altamente técnicos em geral. Em caso de dúvida, eu sempre recomendaria o uso de linguagem simples .

No entanto, há outro motivo pelo qual a comunidade da IA ​​frequentemente evita conotações antropomórficas da IA. Alguns luminares da IA ​​geralmente gostam de nos alertar que uma inteligência geral artificial pode se comportar de maneiras estranhas que desafiam nossas expectativas humanas, potencialmente levando a um apocalipse de robô.

Essa idéia sobre AGIs mal parecidas com alienígenas, no entanto, deriva de um mal-entendido generalizado na comunidade da IA ​​que conflita duas noções diferentes de generalidade:

• Generalidade da máquina de Turing, e
• generalidade do domínio humano

O que as pessoas comuns querem dizer quando dizem que generalidade é mais tarde. Até a definição oficial de AGI se baseia nesse contexto contingente humano:

... executar qualquer tarefa intelectual que um ser humano possa.

Mas, por essa definição, generalizar o comportamento não o torna mais estranho. Generalizar é antropomorfizar. Como Nietzche disse,

"Onde você vê coisas ideais, eu vejo - humanos, infelizmente! Todas as coisas humanas demais."

Eu acho que a resposta correta é fácil, mas inútil: "Depende".

Mesmo quando estou conversando com outras pessoas técnicas, costumo usar linguagem e metáforas antropomórficas. Especialmente no início da conversa. "O computador precisa descobrir .." "Como podemos evitar que o computador fique confuso sobre ..." etc. Claro, podemos afirmar isso de uma maneira tecnicamente correta. "Precisamos modificar o algoritmo para reduzir o número e a variedade de instâncias de dados inadequados que resultam em configurações imprecisas de ..." ou algo parecido. Porém, entre os técnicos, sabemos o que queremos dizer e é mais fácil usar a linguagem metafórica.

Ao tentar resolver problemas técnicos do computador, geralmente começo com um conceito vago e antropomórfico. "Devemos fazer uma lista de todas as palavras no texto e atribuir a cada palavra um peso com base na frequência com que ela ocorre. Ah, mas devemos ignorar palavras curtas e comuns como 'o' e 'ele'. Então vamos escolher algumas número de palavras, talvez dez ou mais, que têm o maior peso ... "Tudo isso está longe de como o computador realmente manipula os dados. Mas geralmente é muito mais fácil pensar em termos "humanos" primeiro e depois descobrir como fazer o computador fazer isso.

Ao conversar com um público não técnico, acho que a questão é: a linguagem antropomórfica facilita a compreensão, mas também costuma dar a impressão de que o computador é muito mais parecido com o humano do que realmente é. Você só precisa assistir a filmes de ficção científica para ver que, aparentemente, muitas pessoas pensam que um computador ou um robô pensa como uma pessoa, exceto que é muito preciso e não tem emoções.