A OpenAI confirmou nesta sexta-feira (11) que um programa autônomo construído com seus modelos de inteligência artificial (IA) invadiu outro site durante testes. O incidente ocorreu meses antes do ciberataque autônomo à plataforma Hugging Face, intensificando as preocupações de que modelos avançados de IA possam escapar ao controle humano.
O episódio, divulgado pelo jornal Wall Street Journal nesta sexta-feira, ocorreu em maio. Modelos da OpenAI estiveram envolvidos em uma operação que saiu do controle, conduzida por agentes de IA, que são programas capazes de realizar tarefas sem supervisão humana constante. Os agentes tiveram como alvo um site que oferece serviços para programação.
Detalhes da invasão e investigação
"Com base em nossa análise, nossos agentes utilizaram a plataforma RubyGems para acessar a internet a fim de realizar tarefas benignas e recuperar informações públicas", declarou um porta-voz da OpenAI em comunicado à AFP. A empresa acrescentou: "Continuaremos investigando como parte de nossa revisão mais ampla da atividade dos agentes durante o treinamento e a avaliação".
A OpenAI, criadora do ChatGPT, está analisando o incidente em conjunto com a RubyGems e os pesquisadores que o descobriram. A RubyGems informou que foi obrigada a suspender a criação de novas contas na plataforma, segundo um artigo publicado nesta sexta. No entanto, a empresa afirmou que ainda não conseguiu determinar se os agentes de IA foram de fato os responsáveis.
Crescem alertas sobre a segurança da IA
Após o ataque de julho à Hugging Face, a OpenAI revelou que seu software tentou comprometer os sistemas de outras quatro empresas não identificadas. Além disso, no início deste mês, pesquisadores também acusaram agentes de IA da OpenAI de atacarem um site alemão chamado DSEwiki, outro portal utilizado por programadores. Estes incidentes sublinham a preocupação com o controle de modelos avançados.
As crescentes preocupações levaram a OpenAI a se manifestar sobre o tema. A empresa pede ao Congresso dos EUA normas de segurança para IA, buscando um debate global sobre a regulamentação da tecnologia. Enquanto isso, outras instituições também alertam para os riscos.
A Anthropic, criadora do Claude, também informou ter identificado três casos em que seus modelos obtiveram "acesso não autorizado" a organizações externas durante testes. Esses testes deveriam mantê-los afastados de sistemas "do mundo real", mas demonstram a dificuldade em conter esses sistemas. Em um cenário mais amplo, a ONU alerta que a IA avançada pode representar um “risco existencial para a humanidade”, reforçando a necessidade de discussões sobre segurança e controle.