Os anos seguintes serão marcados pelo rápido desenvolvimento das tecnologias de inteligência artificial. Talvez seja necessário introduzir estruturas claramente definidas para a criação e uso de IA? 6 meses de experiência são suficientes para regular uma tecnologia que ainda nem saiu do laboratório? Essa pergunta vem cada vez mais da boca de especialistas e jornalistas quando o assunto é inteligência artificial. Vozes e apelos para tomar medidas para regular a inteligência artificial - tanto no nível do usuário quanto no nível do desenvolvimento do projeto - estão sendo ouvidos cada vez com mais frequência. A história de tais apelos começou há muito tempo.
A presença ubíqua da inteligência artificial no espaço digital e, sobretudo, de modelos capazes de criar conteúdos que não serão diferentes dos criados pelos humanos, evoca emoções muito diversas. Por um lado, temos um grupo de entusiastas que veem o futuro na IA e, apesar de suas capacidades relativamente limitadas (porque a IA não pensa e muitas vezes apenas obtém informações da Internet), não tem medo de confiar muitas tarefas a ela. . Do outro lado da barricada está um grupo que expressa seu ceticismo e preocupação com as tendências atuais no desenvolvimento da inteligência artificial.
A ponte entre os dois grupos são os pesquisadores de inteligência artificial, que, por um lado, citam inúmeros exemplos de como a inteligência artificial afetou positivamente a realidade circundante. Ao mesmo tempo, eles entendem que é muito cedo para descansar sobre os louros, e um grande salto tecnológico traz muitos desafios e grandes responsabilidades. Um exemplo claro dessa atitude é um grupo internacional de pesquisadores de inteligência artificial e aprendizado de máquina liderado pelo Dr. Ozlem Garibay, da Universidade da Flórida Central. A publicação de 47 páginas, escrita por 26 cientistas de todo o mundo, identifica e descreve seis desafios que instituições de pesquisa, empresas e corporações devem enfrentar para tornar seus modelos (e o software que os utiliza) seguros.
Sim, este é um trabalho científico sério com explicações importantes para entender o futuro da inteligência artificial. Quem estiver interessado, pode independentemente leia este relatório científico e tire suas próprias conclusões. Em palavras simples, os cientistas identificaram 6 mandamentos da inteligência artificial. Todos os desenvolvimentos e ações de IA devem estar em conformidade com eles para que sejam seguros para as pessoas e para o mundo.
Em meu artigo, escrito justamente com base neste trabalho científico, tentarei formular os principais postulados, leis segundo as quais a inteligência artificial deve existir e se desenvolver. Sim, esta é minha interpretação quase gratuita das conclusões dos cientistas sobre o desenvolvimento da inteligência artificial e uma tentativa de apresentá-las, por assim dizer, em uma versão bíblica. Mas é assim que eu queria apresentar a você este trabalho científico de cientistas respeitados.
Também interessante: Construindo IA: quem está liderando a corrida?
A primeira lei: bem-estar humano
O primeiro postulado dos pesquisadores é focar o trabalho da inteligência artificial no bem-estar humano. Devido à falta de "valores humanos, bom senso e ética", a inteligência artificial pode agir de forma a levar a uma deterioração significativa do bem-estar humano. Os problemas podem ser o resultado das habilidades sobre-humanas da IA (por exemplo, a facilidade com que a IA vence os humanos - e não apenas no xadrez), mas também o fato de que a IA não pensa por si mesma e, portanto, não é capaz de "filtrar" preconceitos ou erros óbvios.
Os pesquisadores observam que a confiança excessiva nas tecnologias de inteligência artificial pode afetar negativamente o bem-estar das pessoas. Uma sociedade que tem pouca compreensão de como os algoritmos de inteligência artificial realmente funcionam tende a confiar demais neles, ou, ao contrário, tem uma atitude negativa em relação ao conteúdo gerado por um determinado modelo, em particular os chatbots. Considerando esses e outros fatores, a equipe de Garibay pede que o bem-estar humano seja colocado no centro da futura interação humano-IA.
Leia também: ChatGPT: um guia de usuário simples
A segunda lei: Responsabilidade
Responsabilidade é um termo que continua aparecendo no mundo da IA no contexto de como usamos o aprendizado de máquina e como exatamente os modelos e algoritmos de IA são desenvolvidos e treinados. A equipe internacional enfatiza que o design, desenvolvimento e implementação de inteligência artificial devem ser feitos exclusivamente com boas intenções.
Em sua opinião, a responsabilidade deve ser considerada não apenas em um contexto técnico, mas também legal e ético. A tecnologia deve ser considerada não apenas do ponto de vista de sua eficácia, mas também no contexto de seu uso.
"Com a introdução de técnicas avançadas de aprendizado de máquina, torna-se cada vez mais importante entender como uma decisão foi tomada e quem é responsável por ela” - escrevem os pesquisadores.
A terceira lei: Confidencialidade
A privacidade é um tema que faz bumerangue em todos os discursos sobre tecnologia. Ainda mais quando tudo é discutido nas redes sociais. No entanto, isso é extremamente importante para a inteligência artificial porque ela não existe sem um banco de dados. E o que são bancos de dados?
Os cientistas os descrevem como "uma abstração dos blocos básicos de construção que compõem a maneira como vemos o mundo". Esses blocos geralmente são valores mundanos: cores, formas, texturas, distâncias, tempo. Enquanto AI estreita focada em um único objetivo, como o grau em que o obturador abre em uma determinada intensidade de luz, usa dados objetivos publicamente disponíveis, AI em aplicações mais amplas (aqui, por exemplo, modelos de texto para imagem, como Midjourney , ou modelos de linguagem como ChatGPT ) podem usar dados sobre e criados por pessoas. Devem ser mencionados também artigos de imprensa, livros, ilustrações e fotografias publicadas na Internet. Os algoritmos de inteligência artificial têm acesso a tudo, porque nós mesmos demos a eles. Caso contrário, ele não saberá de nada e não dará respostas a nenhuma pergunta.
Os dados do usuário afetam fundamentalmente tanto as pessoas sobre as quais esses dados são coletados quanto as pessoas no sistema onde os algoritmos de inteligência artificial serão implementados.
Portanto, o terceiro desafio refere-se a uma compreensão ampla da privacidade e à provisão de direitos como o direito de permanecer sozinho, o direito de limitar o acesso a si mesmo, o direito ao sigilo de sua vida pessoal ou comercial, o direito de controlar informação, ou seja, o direito de proteger a própria personalidade, individualidade e dignidade. Tudo isso deve ser escrito nos algoritmos, caso contrário, a privacidade simplesmente não existirá, e os algoritmos de IA podem ser usados em esquemas fraudulentos, bem como em ofensas criminais.
Leia também: 7 maneiras mais legais de usar o ChatGPT
Quarta lei: Estrutura do projeto
A inteligência artificial pode ser extremamente simples e de propósito único, mas no caso de modelos maiores com natureza ampla e multitarefa, o problema não é apenas a privacidade dos dados, mas também a estrutura do design.
Por exemplo, o GPT-4, o mais recente modelo de inteligência artificial da OpenAI, apesar de seu tamanho e impacto no mundo da IA (e além), não possui documentação totalmente pública. Ou seja, não temos um entendimento de quais são os objetivos finais dos desenvolvedores, o que eles querem obter no resultado final. Portanto, não podemos avaliar totalmente os riscos associados ao uso desse modelo de IA. O GPT-3, por outro lado, treinado com dados do fórum 4chan, é um modelo com o qual você definitivamente não deseja interagir. O fórum 4chan é um dos fenômenos mais interessantes da Internet. Este é um exemplo de anarquia absoluta e total, que na prática não é limitada por nenhuma estrutura. Foi aqui que grupos de hackers como Anonymous ou LulzSec foram criados. É a fonte de muitos dos memes mais populares, um lugar para discutir tópicos polêmicos e publicar opiniões ainda mais controversas. Embora o imageboard em inglês observe que "até agora é legal", isso é um tanto questionável, visto que o 4chan ocasionalmente se envolve com a mídia, incluindo conteúdo racista, nazista e sexista.
A equipe do professor Garibay quer que cada modelo de inteligência artificial funcione dentro de uma estrutura claramente definida. Não só pelo bem-estar da pessoa com quem a IA interage, mas também pela capacidade de avaliar os riscos associados à utilização do modelo. A estrutura de qualquer projeto deve incluir o respeito pelas necessidades, valores e desejos dos diferentes grupos culturais e partes interessadas. O processo de criação, treinamento e ajuste fino da IA deve ser focado no bem-estar humano, e o produto final – o modelo de IA – deve ser focado em aumentar e melhorar a produtividade da própria comunidade humana. Modelos onde os riscos não podem ser identificados devem ter acesso limitado ou controlado. Eles não devem ser uma ameaça para a humanidade, mas, pelo contrário, contribuir para o desenvolvimento do homem e da sociedade como um todo.
Leia também: Twitter nas mãos de Elon Musk - uma ameaça ou "melhoria"?
A Quinta Lei: Governança e Supervisão Independente
Algoritmos de inteligência artificial mudaram literalmente o mundo em apenas um ano. Bard by Google e Bing estreia por Microsoft afetou significativamente as ações de ambos os gigantes na bolsa de valores. Aliás, contribuíram para o crescimento das ações dessas empresas mesmo tendo como pano de fundo as ações Apple. O ChatGPT começou a ser usado ativamente pelos alunos da escola, eles se comunicam com ele, examinam e fazem perguntas. O mais importante é que ele tenha a capacidade de aprender sozinho, corrigir seus erros. A inteligência artificial está até começando a funcionar nos governos de alguns países. É o caso do primeiro-ministro da Romênia, Nicolae Chuca contratou um virtual um assistente que o informará sobre as necessidades da sociedade. Ou seja, a inteligência artificial tem um papel cada vez mais importante em nossas vidas.
Dada a interdependência cada vez maior entre inteligência artificial, humanos e meio ambiente, os cientistas consideram necessário criar órgãos de governo e supervisão independente de seu desenvolvimento. Esses órgãos controlarão todo o ciclo de vida da inteligência artificial: da ideia ao desenvolvimento e implementação. As autoridades definirão adequadamente diferentes modelos de IA e considerarão casos relacionados à inteligência artificial e assuntos da vida social. Ou seja, a inteligência artificial pode se tornar objeto de processos judiciais, assim como de ações judiciais. Embora, é claro, não ele pessoalmente, mas seus desenvolvedores.
Leia também: Tudo sobre Neuralink: o começo da loucura ciberpunk?
A sexta lei: A interação do homem e a inteligência artificial
Nos programas de inteligência artificial, todos podem encontrar algo para si: gerar texto, detectar conteúdo em imagens, responder a perguntas, gerar imagens, reconhecer pessoas em fotos, analisar dados. Esses usos múltiplos não são apenas uma preocupação para as pessoas que tentam adaptar a inteligência artificial aos padrões legais e éticos. Muitos temem ser deslocados do mercado de trabalho por modelos de IA. Porque os algoritmos de inteligência artificial serão capazes de fazer a mesma coisa mais rápido, mais barato e talvez até melhor do que uma pessoa. Ao mesmo tempo, existem pessoas que contam com IA em seu trabalho, ou seja, a inteligência artificial já é um auxiliar indispensável para elas hoje.
Mas pelos estudos referidos pelos cientistas, fica claro que a substituição de pessoas por mão de obra artificial barata ainda está muito longe. Apesar disso, eles já insistem na necessidade de estabelecer uma hierarquia rígida de interação entre humanos e inteligência artificial. Na opinião deles, os humanos devem ser colocados acima da inteligência artificial. A inteligência artificial deve ser criada respeitando as habilidades cognitivas de uma pessoa, levando em consideração suas emoções, interações sociais, ideias, planejamento e interação com objetos. Ou seja, em todas as situações, é a pessoa que deve se sobrepor à inteligência artificial, controlar o comportamento e o conteúdo criado pelo modelo e ser responsável por ele. Em palavras simples, mesmo a IA mais avançada deve obedecer a uma pessoa e não ir além do que é permitido, para não prejudicar seu criador.
Leia também: Como a Ucrânia usa e adapta o Starlink durante a guerra
Conclusões
Sim, alguém dirá que os cientistas não indicaram nada de importante e novo em seu relatório. Todo mundo fala sobre isso há muito tempo. Mas agora é necessário colocar a IA em algum quadro de leis. Alcançar o GPT-4 é como pegar uma faca às cegas. Eles escondem informações importantes de nós. Todos os desenvolvimentos em inteligência artificial e, em particular, o projeto ChatGPT da Open AI, muitas vezes me lembram a criação de uma criança pequena. Às vezes parece que se trata de uma criança de origem alienígena. Sim, um alienígena, mas ainda é uma criança que aprende, comete erros, às vezes se comporta de maneira inadequada, é irritável, briga com os pais. Embora cresça e se desenvolva muito rapidamente.
A humanidade pode não acompanhar seu desenvolvimento e as coisas podem sair do controle. Portanto, a humanidade já precisa entender por que estamos desenvolvendo tudo isso, conhecer os objetivos finais, ser "pais responsáveis", porque senão o "filho" pode simplesmente destruir seus "pais".
Leia também: