A ideia da inteligência artificial derrubar a humanidade é debatida há décadas e, em janeiro de 2021, os cientistas deram seu veredicto sobre se poderíamos controlar uma superinteligência de computador de alto nível. Responder? Quase certamente não.
O problema é que controlar uma supermente muito além da compreensão humana exigiria uma simulação dessa supermente que pudéssemos analisar. Mas se não formos capazes de entendê-lo, é impossível criar tal simulação.
Regras como "não causar danos aos humanos" não podem ser estabelecidas a menos que entendamos quais cenários a inteligência artificial (IA) apresentará, acreditam os autores de um artigo de 2021. Assim que o sistema de computador estiver trabalhando em um nível que exceda as capacidades de nossos programadores, não poderemos mais estabelecer limites.
"A superinteligência é um problema fundamentalmente diferente daqueles normalmente estudados sob a bandeira da 'ética robótica'", escrevem os pesquisadores. “Isso ocorre porque a supermente é multifacetada e, portanto, potencialmente capaz de mobilizar uma variedade de recursos para alcançar objetivos que são potencialmente insondáveis para os humanos, quanto mais controláveis”.
Parte do raciocínio da equipe vem problemas de paralisação, proposta por Alan Turing em 1936. O desafio é descobrir se o programa de computador chegará a uma conclusão e responderá (e parará) ou simplesmente ficará para sempre tentando encontrar a resposta.
Como Turing provou com a ajuda matemática inteligente, embora possamos saber isso para alguns programas específicos, é logicamente impossível encontrar uma maneira que nos permita saber isso para cada programa em potencial que poderia ser escrito. Isso nos traz de volta à IA, que em um estado superinteligente poderia armazenar todos os programas de computador possíveis em sua memória ao mesmo tempo.
Também interessante:
- OpenAI ensinou inteligência artificial para converter comandos em código de programa
- Inteligência artificial procurará ondas gravitacionais
Qualquer programa escrito, por exemplo, para impedir que uma IA prejudique os humanos e destrua o mundo pode ou não chegar a uma conclusão (e parar) - é matematicamente impossível ter certeza absoluta de qualquer maneira, o que significa que não pode ser contido. "Basicamente torna o algoritmo de dissuasão inutilizável", disse em janeiro o cientista da computação Iyad Rahwan, do Instituto Max Planck para o Desenvolvimento Humano, na Alemanha.
Uma alternativa para ensinar a ética da IA e as proibições contra a destruição do mundo, das quais nenhum algoritmo pode ter certeza absoluta, dizem os pesquisadores, é limitar as capacidades da supermente. Por exemplo, pode ser cortado de parte da Internet ou de certas redes.
Os autores de um estudo recente também rejeitam essa ideia, acreditando que ela limitará o escopo da inteligência artificial - eles dizem, se não vamos usá-la para resolver problemas além das capacidades humanas, então por que criá-la?
Se vamos desenvolver a inteligência artificial, talvez nem saibamos quando uma superinteligência aparecerá, fora do nosso controle, de tão insondável que é. Isso significa que precisamos começar a fazer perguntas sérias sobre para onde estamos indo.
"Uma máquina superinteligente comandando o mundo soa como ficção científica", diz o cientista da computação Manuel Kebrian, do Instituto Max Planck para o Desenvolvimento Humano. Mas já existem máquinas que executam independentemente algumas tarefas importantes, enquanto os programadores não entendem completamente como aprenderam isso.
Portanto, surge a questão de saber se em algum momento pode se tornar incontrolável e perigoso para a humanidade...
Leia também:
- Inteligência artificial conseguiu reproduzir uma pintura pintada de Picasso
- Inteligência artificial ajudará a prever acidentes rodoviários antes que eles ocorram