Hackers apoiados pelo Estado da Rússia, China e Irã usaram ferramentas OpenAI para aprimorar suas habilidades e hackear ataques. Conforme relatado por Microsoft, os especialistas da empresa rastrearam grupos de hackers ligados à inteligência militar russa, ao Corpo da Guarda Revolucionária Islâmica, bem como aos governos da China e da Coreia do Norte, que tentavam melhorar as suas campanhas de hackers com a ajuda de grandes modelos de linguagem.
A empresa anunciou a descoberta ao proibir totalmente grupos de hackers apoiados pelo Estado de usar seus produtos de IA. “Simplesmente não queremos que as entidades que identificámos – que monitorizamos e sabemos que representam uma ameaça de vários tipos – não queremos que tenham acesso a esta tecnologia”, disse o vice-presidente. Microsoft da Segurança do Cliente Tom Burt. O relatório menciona grupos de hackers como Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon e Salmon Typhoon.
Afirma que hackers foram pegos usando as ferramentas IA para melhorar as suas capacidades de espionagem, destaca preocupações sobre a rápida disseminação da tecnologia e o seu potencial para abusos. Especialistas ocidentais em segurança cibernética alertaram no ano passado que os criminosos estavam abusando de tais ferramentas, embora até agora não houvesse dados concretos sobre isso.
“Este é um dos primeiros, se não o primeiro, casos em que uma empresa de IA discutiu publicamente como os invasores estão usando tecnologias de IA”, disse Bob Rothstead, chefe de inteligência de ameaças à segurança cibernética da OpenAI.
OpenAI que Microsoft descreveu o uso de suas ferramentas de IA pelos hackers como "estágio inicial" e "incremental". De acordo com Burt, nenhuma das empresas viu espiões cibernéticos fazerem qualquer avanço: “Nós os vimos usar a tecnologia como qualquer outro usuário”.
O relatório descreve grupos de hackers que usam grandes padrões de linguagem de diferentes maneiras. Os hackers, que estariam trabalhando em nome do jogo russo, usaram os modelos para investigar “várias tecnologias de satélite e radar que podem ser relevantes para as operações militares na Ucrânia”, disse a agência. Microsoft. E os hackers norte-coreanos usaram os modelos para criar conteúdo “provavelmente usado em campanhas de phishing”.
Os hackers iranianos também confiaram nos modelos para escrever e-mails mais convincentes. E os hackers chineses, que supostamente são apoiados pelo Estado Microsoft, estão experimentando grandes modelos de linguagem para fazer perguntas sobre serviços de inteligência concorrentes, questões de segurança cibernética e “personalidades proeminentes”.
Leia também: