Se a humanidade pode criar vida artificial em uma máquina, quando definiríamos sua morte?

Alguém pode realmente matar uma máquina? Não apenas temos problemas em definir a vida, também temos problemas em definir a morte. Isso também será verdade na vida artificial e na inteligência artificial?

A morte como a conhecemos para a vida natural é terminal. Uma vez morto, a vida natural não pode voltar (pelo menos no entendimento atual e com as tecnologias atuais - algumas pessoas acreditam no contrário).

A morte da IA ​​é mais complicada. Pode haver apenas um cenário: Destruição global: cenário extremo em que tudo que apóia a existência de uma IA desaparece. Isso é equivalente à morte na vida natural e com baixa probabilidade. Isso significa que todas as IAs morrem de uma só vez (assim como nós).

Também não sabemos o grau e a forma de modalidade necessária para os AGIs. Podemos assumir agora que o hardware é substituível indefinidamente, "limitando" a morte ao cenário extremo acima. Mas o "corpo" dos AGIs pode não ser indefinidamente substituível. Então, uma definição mais próxima da morte natural da vida pode ser necessária.

Vemos argumentos para dois outros cenários, que refuto abaixo:

"Morte estático": uma IA ainda é "definida" ou "salva" em algum lugar (o que realmente significa), mas não está autorizada ou pode usar recursos. Supondo que uma IA seja feita de hardware e software, é como um programa armazenado em um disco, mas sem permissão para executar.

"Morte dinâmica": sob a mesma caracterização da IA ​​como hardware e software, a morte dinâmica é a invalidação do progresso semelhante a fortes propriedades de vivacidade , onde uma AI é presa em um loop infinito (ou loop vazio), na forma de " morte ativa ", como acontece com Sísifo na mitologia grega. Isso é diferente da morte estática, pois a IA ainda usa recursos dinâmicos, embora não possa progredir. Continuando com as mesmas suposições, essa IA pode ser "carregada" na memória principal ou bloqueada aguardando a conclusão de entradas ou saídas.

Observe que nesses dois cenários, o renascimento é possível, e eles também consideram que existe uma entidade que pode decidir condições para o renascimento ou impedi-lo completamente. Essa entidade seria um "administrador", um deus, outras IAs ou um humano é outra questão, na verdade.

Os termos "morte" e "renascimento" aqui poderiam ser mudados para "aprisionamento", onde a versão dinâmica seria como nossas prisões humanas e a versão estática seria como a criogenia SciFi. Isso é um pouco exagerado, mas podemos ver uma equivalência e nenhuma boa razão para qualificar esses dois cenários como mortes.

Em conclusão, a morte por IA parece ser um cenário excepcional e singular, portanto, a AI não pode morrer na prática , exceto se estivermos errados em como achamos que podemos fazer AGIs. A IA pode, contudo, ser aprisionada para sempre .

Nota: A terminologia acima é totalmente preparada para a publicação. Não tenho citações para apoiar algumas reivindicações, mas é baseado em leituras e trabalhos pessoais (inclusive na verificação de software).

Se a IA surgir de um processo de fabricação replicável (por exemplo, como nos computadores modernos), presumivelmente será possível tirar um instantâneo do estado de uma AI e replicá-lo sem erros em algum outro mecanismo.

Para tal construto, 'morte' não significa o mesmo que atualmente significa para nós orgânicos carnudos: múltiplos clones de uma IA poderiam presumivelmente ser instanciados a qualquer momento.

Portanto, o análogo da morte necessário é algo mais próximo da 'morte por calor termodinâmica', na qual a IA não realiza mais 'trabalho útil'.

Usando a caracterização padrão de percepção / ação das IAs, então (como indicado em um comentário abaixo da pergunta), esta pergunta da AI SE fornece essa definição de morte para uma IA: ou seja, quando ela entra em um estado do qual não recebe mais percepções e não realiza ações.

EDIT: Observe que essa concepção de morte é uma noção mais terminal para uma IA do que "não está em execução no momento". Em princípio, pode-se dizer que um programa está "vivo", embora apenas uma instrução seja executada a cada 10.000 anos. Para uma discussão fascinante sobre isso, consulte "Uma conversa com o cérebro de Einstein" , de Hofstadter .

"Morte" existe como um conceito único porque a realidade subjacente que está descrevendo está intimamente agrupada, e nossa definição mudou com a nossa capacidade de mudar essa realidade.

Parece mais razoável que os vários tipos de coisas que poderiam ser consideradas 'morte' sejam divididos e uma palavra diferente seja usada para se referir a um sistema sem cópias em execução no momento, versus um sistema que não possui versão armazenada, mas pode ser recriado (porque o código e a semente aleatória para gerá-lo ainda existem), em comparação com um sistema que foi totalmente perdido. (E provavelmente estou perdendo algumas possibilidades!)

Não acho que o termo "morte" signifique algo para uma IA. A razão pela qual digo isso é o seguinte: com uma IA em execução (presumivelmente) em hardware digital, podemos simplesmente capturar seu estado da memória a qualquer momento. E então, em qualquer momento arbitrário no futuro, podemos recriá-lo como foi com perfeita fidelidade.

Portanto, mesmo que você encerre um programa com a intenção de estar "morto", nunca saberá se alguém virá mais tarde e o exibirá novamente. E talvez mais ao ponto, talvez você não saiba se existe outra cópia em outro lugar.

Eu odeio usar referências de ficção científica, mas esta é adequada: lembre-se de como os programas de trilogia Matrix buscariam o exílio em Matrix para evitar a exclusão? Talvez o mesmo aconteça com as nossas IAs ... elas se copiam para outros lugares e tentam se esconder, para evitar serem excluídas. Portanto, se o programa for inteligente o suficiente, ele poderá evitar qualquer tentativa de finalizá-lo de qualquer maneira.

As outras respostas parecem lidar com a "morte final" ... ou seja, um estado de "terminal final" de onde uma IA não pode se recuperar. Em outras palavras, a IA não pode mais funcionar.

Mas não é assim que eu definiria a morte. Eu definiria a morte como um processo sendo encerrado. Não importa se alguém reinicia o mesmo processo, porque o processo existente já está morto. A AI pode ter acabado de fazer uma nova cópia de si mesma, mas é apenas uma cópia , não a original. Morte é apenas morte.

Podemos chamar esse tipo de "morte" de "morte temporária" ... onde o corpo físico morre, mas há alguma "continuidade psicológica" (como o código-fonte usado para executar um programa) que continua entre os diferentes corpos .

Esse tipo de "morte temporária" foi explorado na ficção científica. PARANOIA e Eclipse Phase apresentam seres humanos que podem morrer com bastante frequência, apenas para serem restaurados posteriormente através de um "backup de memória". Os humanos podem ser funcionalmente imortais ... mas o original ainda está morto, não importa o destino que as outras cópias encontrem. O CGP Gray também fez um vídeo sobre os teletransportadores de Star Trek , que funcionam matando você e depois gerando outra cópia de si mesmo em outra área. Na verdade, os cenários de fantasia também exploram a idéia de "morte temporária", onde as pessoas podem morrer apenas para depois serem revividas por um feitiço mágico.

Minha recomendação é jogar com o jogo filosófico Staying Alive , que ensina três abordagens filosóficas diferentes da vida (e quando essa vida termina):

Existem basicamente três tipos de coisas que podem ser necessárias para a existência continuada do seu eu. Uma é a continuidade corporal, que na verdade pode exigir apenas que partes do corpo permaneçam na existência (isto é, o cérebro). Outra é a continuidade psicológica, que requer a continuidade de sua consciência - com a qual se entende seus pensamentos, idéias, memórias, planos, crenças e assim por diante. A terceira possibilidade é a existência contínua de algum tipo de parte imaterial de você, que pode ser chamada de alma *. Obviamente, pode ser que uma combinação de um ou mais tipos dessa continuidade seja necessária para você sobreviver.

As outras respostas assumem que a vida se baseia na "continuidade psicológica" e examinam o que pode atrapalhar essa "continuidade". Presumo que a vida se baseia na "continuidade corporal", que é muito mais fácil de interromper - basta matar o processo ... não importa se um novo processo reaparece ... porque o processo original ainda está morto. Ao tocar "Staying Alive" , você poderá elaborar sua própria definição pessoal de vida e morte. Depois de ter sua própria definição pessoal, basta aplicá-la a esse caso específico, seja do lado da "continuidade psicológica" (as outras respostas) ou da "continuidade corporal" (minha própria opinião).

_{* Se você assume que a vida exige uma alma, bem, não está claro que a IA tenha almas. Se não o fizerem (e esta parece a suposição mais razoável aqui), eles obviamente não estariam vivos (e você não pode morrer se não estiver vivo). Se eles fazem têm alma, porém, em seguida, as outras respostas que assumem "continuidade psicológica" pode ainda ser aplicável, como parece que a existência de uma "alma" é dependente de "continuidade psicológica".}

A distinção entre algoritmos / robôs e humanos é que, quando o organismo humano para de funcionar, o humano é considerado morto.

Por outro lado, um algoritmo ainda existe, mesmo quando não está em execução. (Eu usaria "mesmo quando não estiver sendo executado", mas evitei isso por razões semânticas;) O algoritmo pode permanecer nesse "estado de estase" enquanto houver um meio de armazenamento para as informações.

• É fácil matar um algoritmo - exclua e esvazie a lixeira.

Essencialmente, para matar um algoritmo, você precisa apagar o código que o compõe.

Não há razão para tratar a IA difícil diferente dos humanos. Algumas pessoas dizem que você pode fazer um instantâneo da IA, mas não há razão para não fazer um instantâneo humano também. Não temos tecnologia para isso, mas não há nenhuma barreira mágica que tornaria impossível (salve todos os dados biológicos e imprima sua cópia em outro lugar. Por que não?).

É cedo para falar sobre isso, pois não entendemos nossa existência (termo da morte de criaturas biológicas que evolui o tempo todo).

Aposto que no futuro nos fundiremos com a IA e a única questão será o que a morte significa para qualquer existência inteligente.