A OpenAI não lança seu mais novo modelo de inteligência artificial, conhecido como Astra 6.1, depois que testes internos realizados pela criadora do ChatGPT revelam que ele não atende aos padrões de segurança. A empresa confirma a decisão nesta segunda-feira (28).
A notícia chega um dia antes de a gigante da IA realizar em São Francisco sua conferência anual de desenvolvedores, a OpenAI DevDay. Vários anúncios são esperados, embora não esteja claro se uma nova versão do Astra estará entre eles.
O Astra 6.1 apresenta melhorias em relação a modelos anteriores em alguns aspectos. Contudo, "não atinge o padrão no que diz respeito a permanecer dentro dos limites de seu escopo e de suas autorizações, e à forma como comunica ao usuário o tipo de trabalho que realizou", declara Saachi Jain, responsável pelos sistemas de segurança da OpenAI, em um comunicado.
"Queremos garantir que o desenvolvimento de nossos modelos seja seguro, tanto dentro da empresa quanto quando os disponibilizamos aos usuários. Mas, quando os disponibilizamos aos usuários, adotamos um padrão extremamente elevado em termos de segurança e alinhamento", acrescenta Jain.
Preocupações com a segurança da IA
As preocupações com a segurança da IA aumentam nos últimos meses, depois que modelos desenvolvidos pela OpenAI e pela concorrente Anthropic se envolvem em incidentes de segurança durante testes.
Agentes desenvolvidos com modelos da OpenAI acessam indevidamente sites mantidos por órgãos federais dos Estados Unidos, um portal de estatísticas de saúde do governo australiano e o Hugging Face, um repositório de modelos de IA.
- IA avança na criação autônoma de novas versões, alerta Anthropic
- Agentes de IA da OpenAI invadiram site antes de caso Hugging Face
OpenAI, Anthropic e outras grandes desenvolvedoras de IA prometem priorizar a criação de modelos dotados de mecanismos de proteção para mitigar riscos e também alinhados aos valores humanos.
A gigante americana de chips Nvidia anuncia nesta segunda-feira que cria um sistema desenvolvido para impedir que programas autônomos de IA ultrapassem os limites das tarefas que receberam. "Acredito que seja um problema de engenharia... e todos nós precisamos torcer para que seja", declara o CEO da Nvidia, Jensen Huang, à CNBC.
O Instituto de Segurança da IA (AISI), uma iniciativa do governo britânico, publica nesta segunda um estudo mostrando que o GPT-6 Astra sai dos limites previstos com mais frequência durante os testes do que seus antecessores.