Os computadores serão capazes de entender as emoções do usuário?
O termo Entender é multidimensional, portanto, caracterizar o grau de entendimento - emocional ou não - é uma tarefa escorregadia. No entanto, algumas formas de compreensão emocional da IA são possíveis.
Um caso simples interessante
Até os programas incorporados de teclados musicais sensíveis à velocidade são emocionalmente conscientes em um nível primitivo. O uso da velocidade de depressão das teclas para controlar os parâmetros de ataque, timbre e volume da nota permite que as emoções do usuário passem pelo software para o conteúdo emocional da música, que pode ser experimentado pelos ouvintes, assim como em instrumentos que não são digitais. natureza.
Recursos emocionais mais avançados
No outro extremo, há uma grande variedade de capacidades emocionais humanas. Um exemplo é o conjunto de funções complexas de reconhecimento sob o conjunto típico de habilidades auditivas de um profissional de aconselhamento.
O termo computação afetiva foi mencionado na pergunta. Um conselheiro pode observar o efeito do conselheiro, ler o tom de voz, as sequências de expressões faciais e a linguagem corporal. A partir disso, uma imagem mais clara do estado emocional interno dos aconselhados pode ser entendida. Essas habilidades de reconhecimento e análise podem determinar o estado emocional interno do indivíduo de maneira mais precisa e abrangente do que uma análise magistral de uma ressonância magnética funcional ou a detecção de metabólitos neuroquímicos no sangue.
Parece não haver um princípio teórico que impeça os computadores de dominar o front-end do conjunto de habilidades de um conselheiro, o reconhecimento da emoção para produzir uma sequência codificada de afetos. O grau em que o software pode interpretar a sequência de afetos (em combinação com expressões simultâneas da linguagem natural) e determinar a condição emocional (e possíveis padrões de decisão orientados para o mercado) do ser humano ainda está para ser determinado.
Existem outras capacidades emocionais além das habilidades de reconhecimento e interpretação emocional. A compaixão é em grande parte a integração lógica da ética na ausência de motivo egocêntrico com os resultados do reconhecimento e interpretação emocional. A adição de imitação emocional gera empatia.
O desenvolvimento de tais capacidades em autômatos é mais importante do que os motivos superficiais e, portanto, míopes do comércio eletrônico. Pode haver pedidos de brinquedos, educação, entretenimento e remédio para a crescente frieza de uma sociedade tecnológica. (Isso é discutido mais adiante).
Funções de reconhecimento, interpretação, aplicação de regras ou meta-regras no domínio ético a essas interpretações e imitação podem estar dentro das capacidades dos sistemas digitais.
Isaac Asimov introduziu a possibilidade de telepatia no conjunto de recursos da mente humana e dos autômatos. Pode parecer que a telepatia está confinada ao domínio da ficção, no entanto, um emoticon pode ser a tele-forma de um componente do afeto, como um sorriso. Dessa maneira, a telepatia assistida por tecnologia consensual tornou-se realmente comum.
Com a erosão da privacidade em uma cultura com crescente interação com os sistemas digitais por um segmento crescente do público, técnicas telepáticas menos consensuais podem ser desenvolvidas e dominadas.
Aspectos mais profundos da questão
A dúvida está na existência de uma alma ou em algum outro aspecto autônomo e não determinístico da pessoa humana. A existência dessas coisas e se a simulação delas pode ser realizada com uma máquina de Turing e praticamente implementada na arquitetura Von Neumann ou em uma coleção delas não foi provada ou desaprovada formalmente. Se elementos autônomos e não determinísticos existem nas pessoas, então, mesmo que possam ser simulados, não podemos afirmar que eles possam ser percebidos como autônomos de forma independente.
Desafiando as implicações do termo cunhado MIT Meat Machine , a noção de que os humanos são capazes de intenção por decreto não é refutada, mas uma máquina de Turing pura claramente não pode pretender dessa maneira.
Isso é importante no contexto da questão, na medida em que um computador só pode simular frustração quando uma intenção é frustrada pelas condições da vida. A frustração real pode não ser possível.
Progresso atual com experiência pública
Um ponto de entrada interessante da ciência da computação no domínio das emoções humanas é o modelo de memória e raciocínio baseado em histórias, proposto por Roger Schank, de Yale U, na década de 1990. Embora o maquinário usado pela Amazon por trás de sua capacidade cada vez maior de recomendar filmes de uma maneira específica para o comprador seja Confidencial da empresa com a Amazon, é preciso se perguntar.
O comércio eletrônico pode desenvolver perfis de usuários em relação a livros e filmes para compreender o enredo da história ou o arco do desenvolvimento emocional do protagonista? Pode fazer isso o suficiente para combinar a visualização e a compra do usuário com outros produtos? É isso que a Amazon está começando a fazer? Com falta de um funcionário antiético da Amazon, só podemos adivinhar. Certamente, o que está ocorrendo no comércio eletrônico de vanguarda foi além da correspondência de palavras ou frases ou o interesse de determinados autores, roteiristas, diretores, produtores e estrelas.
Se a memória e o raciocínio baseados em histórias de Roger Schank penetraram no e-Commerse, a análise emocional de indivíduos do público está bem encaminhada, uma vez que o enredo da história e os arcos de desenvolvimento protagonistas estão ligados a clímax e a criação de clímax, todos relacionados a estados emocionais. Caso contrário, a análise emocional de grupos no público está em andamento desde que as funções de relações públicas assumiram as funções de sistemas de TI corporativos. (Sei que isso ocorreu décadas atrás.)
Mesmo que pessoas como Facebook, Google e Amazon tentem aproximar de várias maneiras os estados emocionais dos indivíduos em tempo real, a correspondência de tramas de filmes de arcos protagonistas e essa correspondência de padrões e categorização ingênua estão longe de ser um bom conselheiro ou um amigo ou membro da família auto-realizado pode fazê-lo.
Os sistemas de computador aos quais o público está exposto ainda não parecem desenvolver com precisão a compreensão da emoção do comprador. Essa é uma área em que mesmo as interfaces mais progressivas ainda são tímidas. Além disso, a própria interface do computador ainda é tão seca quanto era no final do século XX.
Com exceção das violações da confidencialidade, quais recursos para reconhecer, comparar, analisar ou simular emoções podem existir em laboratórios proprietários é apenas uma questão de conjectura.
Interfaces quentes
Voltando à questão da frieza geral das interfaces cibernéticas em uma sociedade tecnológica, há muito para a comunidade de ciência da computação aprender. Por um lado, as habilidades sociais de pessoas técnicas reais geralmente deixam muito a desejar, portanto, pode ser necessária uma mudança cultural de equipes frias de desenvolvimento para equipes culturalmente progressistas e calorosas.
Além disso, quem se envolveu com vários dispositivos de PaaS (personalidade como serviço), como Siri, Google Assistant, Alexa, Cortana e Office Assistant da Microsoft, Clippy, pode achar que a personalidade de clipe de clipe de Clippy é a mais quente da lista. Talvez o Clippy não tenha visto um nível mais alto de aceitação por causa da disparidade entre a frieza de uma grade de células em uma planilha e a tentativa de calor do personagem animado ser demais, e o rapaz tende a atrapalhar alguma parte da interface, o que pode ser irritante. (A integração de conceitos foi ruim.)
No entanto, o estilo animado de Clippy pretende criar uma associação mental com personagens de desenhos animados, o que é brilhante. O design de personagens de desenho animado e a narrativa através da mídia cômica e de desenho animado são uma área criativa da tecnologia que dominava o calor gerado por computador muito antes de assistentes inteligentes começarem a aparecer.
Não se pode deixar de pensar, após uma pesquisa geral da história do assistente inteligente, que quanto mais o sistema tenta ser humano, menos humano ele parece. A resposta humana ao conteúdo emocional em uma interface cibernética é como a correspondência de cores ou instrumentos musicais sintetizados. Se alguém está tentando sintetizar, a síntese deve ser boa. Se não puder ser totalmente convincente, há mais autenticidade em inventar algo que não está fingindo ser algo real. Uma caricatura de objetos da vida real (como Bob Esponja ou Road Runner) evita expor uma margem de erro inaceitável na imitação da vida real. [1]
Nossa sensibilidade nessa área é tão aguda que, se uma pessoa real, trabalhando em um departamento de atendimento ao cliente, age muito mecanicamente, de modo que temos a menor dúvida de estar falando com um ser humano, a impressão é negativa e queremos para desligar e procurar a função que desejamos iniciar no site da empresa.
Não está claro se a tendência das pessoas se tornarem mais parecidas com engrenagens em uma máquina ou se os padrões de uso levarão as empresas a projetar suas interfaces com o usuário e os mecanismos por trás delas para exalar algo como hospitalidade ou simpatia. Embora Jaques Ellul pareça estar correto em sua proposição de que a tecnologia há muito dirige a humanidade e não o contrário, a natureza do DNA da mente humana talvez forçará a humanidade a permanecer notavelmente humana. Assim, a evolução dos profissionais de interface cibernética pode continuar buscando o significado e a simulação de calor.
A busca problemática, controvertível e um tanto bizarra do Teste de Turing provavelmente perdurará.
Preocupações sobre o uso da modelagem emocional
Se um conjunto de reconhecimento emocional, modelagem, análise e comparação, obviamente um conjunto de ferramentas poderoso, é usado para melhorar a humanidade ou seu detrimento, é uma questão como a de qualquer outro conjunto de ferramentas poderoso. Psicologia de massa, ciência nuclear, estatística e genética têm em comum o potencial para um grande bem ou um grande mal.
No contexto desta questão, a difusão ou disseminação de informações mais direcionadas pode ser caracterizada como propaganda, que pode não ser necessariamente perigosa. A propaganda foi usada para o sufrágio feminino e ao longo do caminho da independência dos EUA da Europa. Elementos de transmissão e controle direcionado criaram muitos problemas geopolíticos, um tópico fora do escopo dessa rede social, mas pertinente e algo óbvio, de modo que qualquer menção adicional é desnecessária.
A criação de perfil individual também pode ser muito boa. Isso pode ser como uma combinação dos antigos cartões Dewey Decimal indexados pelo assunto da biblioteca em combinação com um bibliotecário experiente ao procurar informações ou itens de entretenimento ou expressão pessoal para empréstimos, aluguel ou compra.
Obviamente, criar perfis em combinação com estatísticas pode levar à capacidade de obter controle secreto sobre uma massa de pessoas, não apenas para maximizar o lucro de uma empresa. Um megalomaníaco apropriadamente auto-iludido ou uma coleção deles em algum tipo de sociedade secreta poderia usar modelagem emocional e perfis abrangentes de usuários para uma grande amostra da população nacional ou global para a injeção de sistemas de crenças emocionalmente acionados. Tal pessoa ou grupo poderia teoricamente ter sucesso na sublimação secreta e sistemática da liberdade para uma espécie de ditadura autoritária virtual.
Como a tecnologia é usada é sempre uma preocupação. Transparência e responsabilidade são características necessárias de uma sociedade.
Assim como nas outras áreas de ciência e tecnologia mencionadas acima, cabe a nós, que somos capacitados o suficiente para perceber que esses sistemas são elementos inteligentes e ativos nos mecanismos de responsabilidade de nossa sociedade. Se uma corporação ou departamento governamental está levando a humanidade à perdição é um item que pode ser julgado durante uma busca de emprego e durante o período inicial de trabalho.
Notas
[1]
Essa talvez seja a crítica mais forte da filosofia do jogo de imitação de Turing. Desenhos animados, quadrinhos e criaturas de ficção científica demonstram que as pessoas parecem não se importar se seres inteligentes podem ser distinguidos dos seres humanos, e não há provas de que a inteligência humana seja o único ou o melhor exemplo de inteligência.
Nessa mesma linha, heróis são representações de comportamento inteligente que simbolizam algum aspecto da humanidade que realmente não ocorre naturalmente na forma pura, como ocorre com esses protagonistas. No entanto, os atores são rotulados e comercializados como estrelas por causa dessa expressão idílica de caráter. Pode ser que os humanos não gostem realmente da inteligência humana e constantemente tentem transcendê-la através da ficção, mas resulta em apenas uma conscientização pública que nunca é mais do que uma fantasia antropológica.
Até a IA não é um jogo de imitação. É um jogo de transcendência. Por esse motivo, o teste de Turing é de valor limitado.