Os países da União Europeia (UE) querem proibir sistemas de inteligência artificial que geram "deepfakes" de caráter sexual. A medida surge após a indignação provocada por imagens desse tipo produzidas por Grok, o chatbot do empresário americano Elon Musk.
Representantes dos 27 países do bloco em Bruxelas aprovaram uma emenda a um projeto de lei sobre inteligência artificial, cujo objetivo é proibir esses serviços em toda a UE. A disposição aprovada "proíbe serviços de IA para a geração de imagens sexuais e íntimas não consentidas, ou pornografia infantil", segundo um comunicado do Conselho Europeu, órgão da UE que reúne os Estados-membros.
Parlamento europeu e a regulamentação
O Parlamento Europeu trabalha em uma emenda semelhante, que pode ser aprovada em comissão na próxima semana. O objetivo é proibir serviços de IA e outras aplicações que permitem aos usuários "despir" adultos ou menores, ou criar imagens sexualmente explícitas deles sem consentimento, usando fotos ou vídeos reais.
Há alguns meses, Grok introduziu uma função que permite aos usuários criar imagens de pessoas simulando nudez a partir de fotos reais, o que provocou indignação em vários países e levou à abertura de uma investigação da UE. X, plataforma onde o Grok está disponível, declarou em janeiro adotar política de "tolerância zero" diante de deepfakes sexualizados de crianças e mulheres e afirmou ter tomado medidas para impedir a criação dessas imagens.
- Violações no Grok continuam, dizem MPF, ANPD e Senacon
- Levantamento identifica 173 vítimas de deepfakes sexuais em escolas
- Telegram se associa à xAI de Musk e receberá US$ 300 milhões
Limitação do poder da inteligência artificial
"Não se trata de reagir a escândalos individuais como o do Grok, mas de limitar o poder que concedemos à IA", afirmou o eurodeputado alemão Sergey Lagodinsky, membro dos Verdes e uma das figuras-chave da iniciativa.