A União Europeia informa, nesta quinta-feira, 16, que está em contato com a empresa norte-americana de inteligência artificial (IA) Anthropic, devido a preocupações sobre as capacidades de seu modelo mais recente, que a própria companhia teme que possa ser aproveitado por hackers.
O novo modelo da Anthropic, Claude Mythos, mostra-se especialmente eficaz na detecção de pontos fracos em diferentes programas, o que levou a empresa a adiar o seu lançamento completo. Segundo a companhia americana e seus parceiros, o Claude Mythos consegue analisar de forma autônoma grandes quantidades de código para encontrar e encadear vulnerabilidades de segurança até então desconhecidas em todo o tipo de software, desde sistemas operacionais até navegadores da web.
"Temos um novo modelo de IA que está sendo lançado. Ele acarreta certos riscos. Precisamos de informações sobre eles", declara o porta-voz da Comissão Europeia, Thomas Regnier, aos jornalistas. "Estamos em contato com a Anthropic. Recebemos algumas informações", acrescenta, confirmando que a primeira reunião ocorreu na quarta-feira e que haverá mais encontros.
- Chatbots de IA geram preocupação de influência nas eleições brasileiras
- FMI adverte que sistema monetário não está pronto para os riscos da IA
- Anthropic reconhece publicação acidental de código-fonte
No início deste mês, a companhia anuncia que irá limitar a distribuição do Claude Mythos a apenas 40 grandes empresas de tecnologia, para dar tempo de corrigir vulnerabilidades antes que possam ser exploradas por hackers. No entanto, não foram incluídas entidades estrangeiras, o que gera preocupação sobre o grau de preparação do mundo diante de um modelo cujas capacidades ofensivas não se limitariam às fronteiras dos Estados Unidos.
O crucial, advertem a Anthropic e seus parceiros, é que isso pode ser feito em uma velocidade e escala que nenhum humano conseguiria igualar, suscitando o risco de ser usado para paralisar bancos, hospitais ou infraestruturas nacionais em questão de horas. O anúncio da Anthropic gerou alarme e ceticismo.
E, ao que parece, os diretores dos maiores bancos dos Estados Unidos se reuniram neste mês com o presidente do Federal Reserve (Fed, banco central), Jerome Powell, e com o secretário do Tesouro, Scott Bessent, para avaliar as implicações de segurança do modelo ainda não lançado.