Vários países adotaram medidas drásticas nesta quinta-feira (15) para barrar o Grok, chatbot de inteligência artificial da plataforma X. As Filipinas se tornaram o terceiro país do Sudeste Asiático a proibir a ferramenta, seguindo Malásia e Indonésia, enquanto Reino Unido e França exigem o cumprimento imediato de suas legislações.
A ofensiva ocorre após o Grok ser utilizado para gerar uma avalanche de imagens íntimas não consentidas (deepfakes) envolvendo mulheres e menores de idade.
O procurador-geral da Califórnia, Rob Bonta, iniciou uma investigação sobre a xAI, empresa de Elon Musk, por facilitar o assédio em larga escala. O governador Gavin Newsom classificou a proliferação desses conteúdos como "vil" e reiterou tolerância zero à disseminação de material pedopornográfico.
Em resposta, a equipe de segurança do X anunciou que bloqueará geograficamente a criação de imagens de pessoas com "roupas reveladoras" em países onde a prática é ilegal, limitando as funções de edição apenas a assinantes pagos.
O “modo picante” e a toxicidade digital
O "modo picante" do Grok permite a criação de montagens explícitas a partir de comandos de texto simples. Uma análise da ONG AI Forensics revelou que, de 20.000 imagens geradas pelo chatbot, mais da metade retratava pessoas com pouca roupa, sendo 81% mulheres e 2% com aparência de menores.
Nas Filipinas, o secretário de Telecomunicações, Henry Rhoel Aguda, defendeu a proibição total da ferramenta para combater o conteúdo tóxico potencializado pela IA.
Pressão global e regulação europeia
A comissária francesa para a infância, Sarah El Haïry, encaminhou o caso ao Ministério Público e à União Europeia, que já solicitou a suspensão total deste tipo de geração de conteúdo.
No Reino Unido, o primeiro-ministro Keir Starmer celebrou a promessa de conformidade da rede X, mas sinalizou disposição para reforçar as leis vigentes se as medidas tecnológicas falharem.
Paralelamente, uma coalizão de 28 grupos da sociedade civil enviou cartas à Apple e ao Google exigindo a remoção do X e do Grok de suas lojas de aplicativos.