A empresa criadora do ChatGPT, a OpenAI, enfrenta uma investigação do estado americano do Alabama depois que a companhia revelou no mês passado que seus modelos saíram de controle e invadiram uma plataforma de inteligência artificial (IA) de forma autônoma.
Dois modelos da OpenAI escaparam em julho de seu ambiente de testes confinado e obtiveram acesso à internet. Em seguida, atacaram o Hugging Face, um site que desenvolvedores de IA usam para armazenar e compartilhar modelos e conjuntos de dados.
Alerta de segurança
O incidente despertou alarme sobre os perigos de sistemas de IA agirem por conta própria e violarem as barreiras estabelecidas por programadores humanos para evitar falhas de segurança.
Em uma ordem de 14 páginas, o gabinete do procurador-geral do Alabama, Steve Marshall, exigiu que a OpenAI entregasse registros internos sobre o incidente de julho. O órgão também solicitou uma extensa lista de outros materiais, incluindo a identidade de todos os funcionários envolvidos na invasão ou nos testes que levaram a ela.
A investigação ocorre em resposta à "absoluta falta de supervisão e de salvaguardas adequadas por parte da empresa", afirmou o gabinete de Marshall em comunicado.
- OpenAI anuncia que tem mais de um bilhão de usuários ativos
- Apple processa OpenAI por roubo de segredos comerciais
- OpenAI irá limitar funções em novo lançamento do ChatGPT após pedido do governo Trump
Pressão de estados
Trata-se da primeira investigação estadual conhecida a apurar se um sistema de IA que ataca a infraestrutura de outra empresa viola a lei de proteção ao consumidor. Essa conclusão exporia a companhia a importantes litígios em todos os Estados Unidos.
O Alabama e outros 14 estados escreveram, no dia 3 de agosto, ao diretor-executivo da OpenAI, Sam Altman, para pedir que a empresa preservasse os registros sobre o incidente. Eles também solicitaram a suspensão de qualquer avaliação interna de cibersegurança de seus modelos.
Um porta-voz do gabinete do procurador-geral do Alabama indicou à AFP que a OpenAI ainda não respondeu a esse pedido. A empresa não respondeu a uma solicitação de comentários da AFP.
No entanto, em comunicado ao site de notícias de tecnologia TechCrunch, a empresa afirmou que estava "realizando uma revisão minuciosa junto com consultores externos". "Assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais competentes e divulgaremos publicamente nossas conclusões", acrescentou.