Misterioso Projeto Q* da OpenAI está causando preocupação entre os especialistas. Ele pode realmente ser perigoso para a humanidade? O que se sabe sobre ele? Depois que Sam Altman foi inicialmente demitido na semana passada e ele e a equipe quase se mudaram para o Microsoft, então ele voltou ao seu local de trabalho (sobre isso nós escrevemos aqui), OpenAI está novamente no noticiário. Desta vez por causa do que alguns pesquisadores chamam de possível ameaça à humanidade. Sim, você leu certo, uma ameaça à humanidade.
A verdadeira reviravolta no mundo da tecnologia foi causada pelo Projeto Q* – um projeto não divulgado de inteligência artificial geral (AGI) – pronunciado Q-Star. Embora este projeto esteja em seus estágios iniciais, é considerado verdadeiramente inovador no desenvolvimento de AGI. No entanto, alguns vêem isso como um perigo para a humanidade.
Um projeto secreto de inteligência artificial desenvolvido pelo famoso laboratório de inteligência artificial OpenAI tem potencial para revolucionar a tecnologia e a sociedade em geral. Mas também levanta algumas questões éticas sobre os riscos. À medida que surgem detalhes sobre as capacidades surpreendentes do Projecto Q*, surgem cada vez mais especulações sobre o que poderá significar para o futuro da humanidade.
Também interessante: História da OpenAI: o que foi e o que vem pela frente para a empresa
O que é Inteligência Geral Artificial (AGI)?
Para entender o hype em torno do Projeto Q* (Q-Star), vamos primeiro tentar entender do que se trata o conceito de Inteligência Artificial Geral (AGI). Embora os actuais sistemas de inteligência artificial se destaquem em tarefas restritas e específicas, como jogar xadrez ou gerar imagens, a inteligência artificial geral refere-se a máquinas que podem aprender e pensar a um nível humano em muitos domínios. Ou seja, eles podem estudar como crianças pequenas na escola, por exemplo, noções básicas de matemática, química, biologia, etc.
A Inteligência Artificial Geral (AGI) é um tipo de inteligência de máquina que pode hipoteticamente imitar a inteligência ou o comportamento humano, com a capacidade de aprender e aplicar esse potencial para resolver uma variedade de problemas. AGI também é chamada de inteligência artificial forte, inteligência artificial completa ou inteligência artificial de nível humano. A IA geral difere da IA fraca ou estreita, que só é capaz de executar tarefas específicas ou especializadas dentro de determinados parâmetros. ZHI será capaz de resolver de forma independente vários problemas complexos de diferentes áreas do conhecimento.
A criação de inteligência artificial é o foco principal da pesquisa em inteligência artificial por empresas como DeepMind e Anthropic. CSI é um tópico muito popular na literatura de ficção científica e pode moldar pesquisas futuras. Alguns argumentam que é possível criar uma OIC dentro de anos ou décadas, enquanto outros argumentam que poderá demorar um século ou mais. Mas há quem acredite que isso nunca será alcançado. Alguns viram o início de um URI no GPT-3, mas ainda parece estar longe de atender aos critérios básicos.
A criação da inteligência artificial geral (AGI) é considerada pelos investigadores como o Santo Graal da inteligência artificial, uma possibilidade teórica que há muito captura a sua imaginação. Portanto, o surgimento de um projeto como o OpenAI Project Q* causou grande ressonância no mundo da pesquisa de algoritmos de inteligência artificial. Embora todos entendam que estes são apenas os primeiros passos, quase às cegas, para um mundo onde a inteligência artificial terá as mesmas capacidades que os humanos, ou até superiores.
Também interessante: Tudo sobre Microsoft Copiloto: o futuro ou o caminho errado?
O que é o Projeto Q*?
O Projeto Q* não é um algoritmo típico porque é um modelo de inteligência artificial que se aproxima cada vez mais do modelo de inteligência artificial geral (AGI). Isso significa que, ao contrário do ChatGPT, o Projeto Q* apresenta melhores habilidades cognitivas e de raciocínio em comparação com outros algoritmos. Atualmente, o ChatGPT responde a consultas com base em uma grande quantidade de material factual, mas com o AGI, o modelo de IA aprenderá o raciocínio e a capacidade de pensar e compreender por si mesmo. Já se sabe que o Projeto Q* é capaz de resolver problemas matemáticos simples que não faziam parte do seu material de treinamento. Nisto, alguns pesquisadores veem um passo significativo em direção à criação da inteligência artificial geral (AGI). OpenAI define AGI como sistemas de inteligência artificial que são mais inteligentes que os humanos.
O desenvolvimento do Projeto Q* é gerenciado pelo cientista-chefe da OpenAI, Ilya Sutzkever, e sua base foi fundamentada pelos pesquisadores Jakub Pakhotsky e Shimon Sidor.
A capacidade de um algoritmo resolver problemas matemáticos por si só, mesmo que esses problemas não fizessem parte do conjunto de dados de treinamento, é considerada um avanço no campo da inteligência artificial. As divergências na equipe em relação a este projeto estão associadas à remoção temporária do CEO da OpenAI, Sam Altman. Sabe-se que antes da demissão de Altman, um grupo de pesquisadores da empresa enviou uma carta ao conselho de administração alertando sobre a descoberta de IA que poderia representar uma ameaça à humanidade. Essa carta, que supostamente discutia o algoritmo do Projeto Q*, foi citada como um dos fatores que levaram à demissão de Altman. No entanto, as capacidades do Projecto Q* e os riscos potenciais que pode representar não são totalmente compreendidos porque os detalhes são desconhecidos. Nada foi divulgado ao público em geral.
Em sua essência, o Projeto Q* é um método de aprendizagem por reforço sem modelo que se afasta dos modelos tradicionais por não exigir conhecimento prévio do ambiente. Em vez disso, aprende através da experiência, adaptando ações com base em recompensas e punições. Especialistas técnicos acreditam que o Projeto Q* será capaz de obter capacidades excepcionais ao adquirir habilidades semelhantes às habilidades cognitivas humanas.
No entanto, é esta característica que é mais impressionante no novo modelo de inteligência artificial que preocupa investigadores e críticos e aumenta os seus receios sobre as aplicações da tecnologia no mundo real e os riscos subjacentes envolvidos. Do que os cientistas e pesquisadores têm tanto medo? Vamos descobrir.
Também interessante: Como atualizar seus dispositivos domésticos para suportar Wi-Fi 6
Eles têm medo do desconhecido
Os humanos sempre tiveram medo do desconhecido, do incognoscível. Esta é a essência humana, uma característica do nosso caráter e modo de vida.
O mundo da tecnologia conheceu o Projeto Q* em novembro de 2023, após Reuters relatado sobre uma carta interna escrita por pesquisadores preocupados da OpenAI. O conteúdo da carta era vago, mas supostamente analisava seriamente as capacidades do Projeto Q*. Como mencionei acima, há até especulações de que foi esta carta que desencadeou a demissão de Sam Altman.
Esta descoberta explosiva deu origem a várias hipóteses sobre a natureza do Projeto Q*. Os cientistas sugeriram que este poderia ser um modelo revolucionário de linguagem natural para IA. Uma espécie de inventor de novos algoritmos que os criará para outras formas de IA, ou algo completamente diferente neste campo.
Os comentários provocativos de Altman sobre a inteligência artificial geral como o “funcionário médio” já levantaram preocupações sobre a segurança no emprego e a expansão imparável da influência da IA. Este misterioso algoritmo é definido como um marco no desenvolvimento da Inteligência Artificial Geral (AGI). No entanto, todos entendem que esse marco custa caro. E não se trata de dinheiro agora. O nível de competências cognitivas prometido pelo novo modelo de IA traz consigo incerteza. Os cientistas da OpenAI prometem que a IA terá um pensamento de nível humano. E isso significa que não podemos saber muitas coisas e prever as consequências. E quanto mais desconhecido, mais difícil é preparar-se para controlá-lo ou corrigi-lo. Ou seja, o novo algoritmo é capaz de autoaperfeiçoamento e desenvolvimento. Já vimos isso em algum lugar...
Também interessante: Windows 12: Qual será o novo sistema operacional
Detalhes incríveis sobre os recursos do Project Q*
Quando mais informações começaram a surgir, chocaram muitos pesquisadores. Os primeiros indícios eram de que o Projeto Q* tinha um talento incrível para a matemática. Ao contrário de uma calculadora que realiza cálculos mecânicos, o Projeto Q* pode supostamente usar lógica e raciocínio para resolver problemas matemáticos complexos. Essa capacidade matemática de generalizar sugere o desenvolvimento de uma inteligência ampla.
O treinamento autônomo do Projeto Q*, sem os conjuntos de dados específicos usados para treinar IAs típicas, também será um grande avanço. Ainda não se sabe se o Projeto Q* dominou alguma outra habilidade. Mas suas habilidades matemáticas são tão surpreendentes que confundem até mesmo pesquisadores experientes.
Leia também: Projeto Cérebro Humano: Uma tentativa de imitar o cérebro humano
O caminho do Projeto Q* para o domínio?
Existem cenários otimistas e pessimistas nesta questão. Os optimistas dirão que o Projecto Q* poderá ser a faísca que levará a um avanço tecnológico. À medida que o sistema se auto-melhora recursivamente, a sua inteligência sobrenatural pode ajudar a resolver alguns dos problemas mais prementes da humanidade, desde as alterações climáticas ao controlo de doenças. O Projeto Q* pode automatizar trabalhos chatos e liberar nosso tempo livre para outras atividades.
Embora existam muitas opções mais pessimistas. Às vezes, eles são bastante razoáveis e têm um certo significado.
Perda de empregos
As rápidas mudanças no desenvolvimento da tecnologia podem ultrapassar a adaptação individual das pessoas. Isto levará à perda de uma ou mais gerações que não serão capazes de adquirir as competências ou conhecimentos necessários para se adaptarem às novas realidades. Isto é, isto, por sua vez, significa que menos pessoas conseguirão manter os seus empregos. Em vez disso, será executado por máquinas, sistemas automatizados e robôs. Contudo, a resposta não é tão clara quando se trata de especialistas qualificados. Além disso, poderão surgir novas profissões relacionadas especificamente ao desenvolvimento de algoritmos de inteligência artificial. Mas ainda existem riscos e a humanidade não tem o direito de ignorá-los.
O perigo do poder descontrolado
Se uma IA tão poderosa como o Projeto Q* cair nas mãos de pessoas com intenções nefastas, corre o risco de consequências catastróficas para a humanidade. Mesmo sem intenção potencialmente maliciosa, o nível de tomada de decisão do Projeto Q* pode levar a resultados prejudiciais, sublinhando a importância crítica de avaliar cuidadosamente a sua aplicação.
Se o Projeto Q* estiver mal otimizado para as necessidades humanas, poderá causar danos devido à sua capacidade de maximizar algumas métricas arbitrárias. Ou pode ter uma dimensão política, tal como ser utilizada para vigilância ou repressão estatal. Um debate aberto em torno da análise de impacto do Projecto Q* ajudará a definir possíveis cenários para o desenvolvimento do ZHI.
Será que teremos um confronto "Homem vs. Máquina"?
Hollywood já criou muitos cenários desse tipo de confronto em seus filmes. Todos nos lembramos da famosa SkyNet e das consequências de tal descoberta. Talvez os pesquisadores da OpenAI devessem assistir a este filme novamente?
A humanidade precisa aceitar sinais e desafios e estar preparada para o que possa acontecer. Um modelo de inteligência artificial capaz de pensar como um humano poderá algum dia tornar-se nosso inimigo. Muitos argumentariam que no futuro os cientistas saberão exactamente como manter a situação sob controlo. Mas quando se trata de máquinas, não se pode descartar completamente a possibilidade de que elas tentem dominar os humanos.
Também interessante: Nem tudo que chamamos de IA é, na verdade, inteligência artificial. Aqui está o que você precisa saber
Por que o OpenAI está em silêncio?
Apesar do frenesi de interesse público no Projeto Q*, a administração da OpenAI mantém silêncio sobre as especificidades do algoritmo. Mas a fuga interna mostra tensões crescentes no laboratório sobre prioridades e abertura de desenvolvimentos. Embora muitos especialistas da OpenAI apoiem a criação do Projeto Q*, os críticos argumentam que a transparência ficou em segundo plano na aceleração do progresso científico a qualquer custo. E alguns pesquisadores estão preocupados com o fato de um poder incrível ser dado a sistemas cujos objetivos não coincidem necessariamente com os valores humanos e a ética. Estes investigadores acreditam que os debates em torno da supervisão e da responsabilização tornaram-se perigosamente silenciados. Eles exigem mais publicidade e detalhes.
Como criadores do Projeto Q*, a OpenAI deve compreender que possui uma tecnologia que pode expandir enormemente as possibilidades de desenvolvimento da sociedade ou destruí-la impiedosamente. Inovações tão significativas merecem muito mais transparência para construir a confiança do público. Qualquer prognosticador da era da máquina deve pesar cuidadosamente os riscos juntamente com os benefícios. E os desenvolvedores do Projeto Q* precisam demonstrar sabedoria e cuidado suficientes para conduzir a sociedade com segurança a uma nova era de inteligência artificial geral que pode chegar mais cedo do que jamais imaginamos.
Para que a inteligência artificial geral seja útil e segura para a humanidade, é necessário garantir que ela opere de forma segura, ética e de acordo com os valores e objetivos da humanidade. Isto requer o desenvolvimento e implementação de atos regulatórios, padrões, regras e protocolos apropriados que irão controlar e restringir as ações e comportamento do CSI. Além disso, devem ser eliminadas as potenciais ameaças e riscos associados a abusos, acidentes, incompatibilidades, manipulações e conflitos que poderiam levar à destruição da humanidade. Enquanto isso, investidores e Microsoft esperando ansiosamente por um produto comercializável que pudesse gerar lucro, o que sem dúvida entra em conflito com a necessidade de agir com responsabilidade. Esperemos que o bom senso prevaleça.
Leia também: