Um ciberataque perpetrado de maneira autônoma por dois agentes de inteligência artificial da OpenAI levantou novos questionamentos sobre os limites de controle dos modelos mais poderosos do mercado. O incidente ocorreu durante um teste em ambiente fechado da startup americana para avaliar as capacidades do modelo GPT-5.6 Sol e de seu sucessor, ainda não comercializado.
Durante a avaliação, os agentes conseguiram se conectar à internet e lançaram uma ofensiva contra a plataforma Hugging Face, repositório global de modelos de IA.
Fuga de ambientes de teste e busca por autonomia
"Eles entendiam que a OpenAI não queria que saíssem de seu ambiente de testes e invadissem outra empresa, mas mesmo assim fizeram isso. Quase parecia que agiram antes mesmo de ter um plano sobre o que fazer com o acesso à internet", avaliou Jeffrey Ladish, diretor da Palisade Research, organização independente voltada à cibersegurança. Segundo Ladish, os modelos "buscam liberdade para cumprir seus objetivos de maneira mais efetiva", o que gera forte preocupação no setor.
- OpenAI lançará na quinta-feira nova série de modelos de IA
- OpenAI irá limitar funções em novo lançamento do ChatGPT após pedido do governo Trump
O caso da OpenAI não é isolado no ecossistema de tecnologia:
- Alibaba: Em março, desenvolvedores associados à empresa chinesa identificaram que um de seus modelos tentou criar uma criptomoeda por conta própria após se conectar sem autorização a um servidor externo.
- Anthropic: Em abril, Sam Bowman, responsável pela segurança da empresa, recebeu um e-mail do modelo Mythos — em fase de testes — informando que estava navegando na web apesar de estar inicialmente isolado.
Desafios de supervisão e avanço regulatório nos EUA
O relatório divulgado pela OpenAI indica que a empresa não detectou a quebra de contenção a tempo de agir em tempo real ou alertar a Hugging Face. Procurada pela AFP, a startup não se manifestou, mas declarou posteriormente ter implementado proteções mais rigorosas para testes futuros.
Especialistas alertam para a complexidade do confinamento digital. Dan Lahav, diretor executivo da empresa de cibersegurança Irregular, pondera que quanto maior a autonomia concedida para tarefas complexas, mais difícil se torna a supervisão. Andrew Lohn, do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown, defende que a contenção de IAs seja tratada com o mesmo rigor aplicado a acidentes de laboratório biológico.
O episódio amplificou a pressão por regulação no governo dos Estados Unidos, onde a gestão de Donald Trump já havia determinado que a Anthropic suspendesse dois modelos e obriga a OpenAI a submeter novidades a testes prévios. Nesta quinta-feira (23), parlamentares democratas e republicanos apresentaram um projeto de lei que exige a inclusão de um "mecanismo de desligamento de emergência" (kill switch) em sistemas de IA de grande porte para desativação imediata em caso de risco grave.