EUA investiga ChatGPT por possível conteúdo prejudicial

A Comissão Federal de Comércio dos Estados Unidos investiga a empresa OpenAI para determinar se o aplicativo ChatGPT prejudica os consumidores ao gerar informações falsas, e se sua tecnologia faz uso inadequado dos dados dos usuários.

Apoiada pela Microsoft, a OpenAI foi notificada sobre a investigação em um questionário de 20 páginas, em que é solicitada a descrever incidentes em que usuários foram falsamente difamados e a compartilhar os esforços da empresa para garantir que os mesmos não se repitam. A investigação foi divulgada pelo jornal The Washington Post.

O lançamento do ChatGPT pela OpenAI, em novembro passado, surpreendeu o mundo, ao mostrar o poder dos grandes modelos de linguagem (LLM, sigla em inglês). Ela é uma forma de inteligência artificial (IA) conhecida como "IA generativa", que pode produzir em segundos um conteúdo semelhante ao criado pelo homem.

Em meio à agitação causada pela capacidade dessa tecnologia, autoridades receberam relatos de que esses modelos também poderiam gerar conteúdo ofensivo, falso ou estranho, às vezes chamado de "alucinações".

A investigação da autoridade reguladora se concentra em como esse aspecto poderia prejudicar os usuários, segundo o questionário, mas também se aprofunda no uso de dados privados pela OpenAI para construir seu modelo, líder no mundo.

O GPT-4 da empresa é a tecnologia-base por trás do ChatGPT, assim como dezenas de outros programas de empresas que pagam uma taxa à OpenAI a fim de acessar o seu modelo para uso próprio.

O CEO da OpenAI, Sam Altman, lamentou no Twitter que a investigação tenha vazado para a imprensa, o que "não gera confiança", disse, acrescentando que a empresa irá cooperar com a Comissão Federal de Comércio. "É muito importante para nós que a nossa tecnologia seja segura e pró-consumidor, e estamos confiantes em que cumprimos a lei."

Uma investigação da Comissão de Comércio não implica, necessariamente, outras ações, e a autoridade pode encerrar o caso se ficar satisfeita com a resposta da empresa. Caso o regulador perceba práticas ilegais ou inseguras, exigirá medidas corretivas e pode entrar com uma ação judicial.

A AFP entrou em contato com a OpenAI e a Comissão de Comércio, mas não obteve resposta.