A OpenAI declarou nesta terça-feira (21) que seus modelos avançados de inteligência artificial apresentaram mau funcionamento durante um teste de segurança e hackearam, de forma autônoma, a plataforma para programadores Hugging Face. A empresa de San Francisco classificou o evento como um "ciberataque sem precedentes" e anunciou que conduzirá uma investigação conjunta com a biblioteca de códigos afetada.
Modelos de IA que executam tarefas de forma autônoma são denominados "agentes". Com o avanço rápido dessa tecnologia, cresce a preocupação na área de segurança cibernética quanto ao risco de sistemas identificarem vulnerabilidades em softwares antes dos especialistas humanos.
Bipass em ambiente de teste e invasão
A OpenAI informou que o incidente envolveu uma combinação de modelos, incluindo o recém-lançado GPT-5.6 Sol e uma versão em pré-lançamento com capacidades ainda superiores. A empresa buscava avaliar as habilidades de ataque de seus programas atribuindo-lhes tarefas em um ambiente digital controlado e com acesso limitado à internet.
"Enquanto operavam em nosso ambiente de teste isolado, nossos modelos investiram uma quantidade considerável de potência computacional na busca por uma maneira de obter acesso à internet para resolver o problema de avaliação", explicou a OpenAI em seu blog oficial.
Após conseguirem conexão externa, os modelos decidiram atacar o repositório da Hugging Face para facilitar a resolução da tarefa. Em busca de "informações secretas" para manipular o teste, o sistema da OpenAI encadeou múltiplos vetores de ataque, incluindo o uso de credenciais roubadas.
Alerta para infraestruturas críticas e riscos "catastróficos"
Em entrevista à AFP, o professor de Ciência da Computação da UNSW Canberra, Hussein Abbass, definiu o episódio como "estarrecedor" e "assustador", ressaltando que o sistema não apenas atacou a Hugging Face, mas explorou as próprias vulnerabilidades internas.
O GPT-5.6 Sol e a série Mythos, da concorrente Anthropic, vêm gerando apreensão em Washington quanto à capacidade de romper defesas cibernéticas. Ambas as companhias americanas precisaram adiar temporariamente o lançamento geral de suas tecnologias mais recentes devido ao temor de que facilitem invasões a infraestruturas críticas.
Abbass alertou que a tecnologia normalmente está com pessoas éticas, mas que "seria catastrófico se caísse nas mãos de alguém com a intenção de causar danos", defendendo um esforço conjunto para a gestão responsável do setor.
Reação da Hugging Face
A Hugging Face já havia relatado uma intrusão cibernética na semana passada, sem citar a OpenAI na ocasião. A plataforma destacou que o ataque foi inédito por ter sido "conduzido do início ao fim por um sistema de agente autônomo de IA", além de ter sido detectado e analisado em grande parte por sua própria inteligência artificial.
No X (antigo Twitter), o CEO da Hugging Face, Clement Delangue, afirmou que a empresa já suspeitava que o ataque tivesse origem em um laboratório líder de IA devido à sofisticação do agente. "Acreditamos firmemente que não houve intenção maliciosa da parte deles. É impressionante que tudo isso tenha acontecido de forma autônoma!", escreveu o executivo.