Grok é bloqueado em alguns países por gerar deepfakes de mulheres e crianças

A Indonésia e a Malásia bloquearam o acesso ao Grok, chatbot de inteligência artificial (IA) de Elon Musk integrado à rede social X, o antigo Twitter. Eles se tornam, assim, os primeiros países do mundo a bloquear a ferramenta, após denúncias de que ela estaria sendo usada para criar “deepfakes”, fotos falsas de mulheres e crianças em situações sexualmente explícitas, sem consentimento das vítimas.

A decisão foi anunciada pelos ministérios de comunicação de ambas as nações do sudeste asiático neste fim de semana. Autoridades locais classificaram o uso da IA para produzir pornografia falsa como uma violação grave dos direitos humanos e da segurança digital.

O bloqueio permanecerá em vigor até que a AI, empresa responsável pela ferramenta, implemente mecanismos eficazes para impedir a geração desse tipo de conteúdo.

A decisão pode criar um efeito dominó contra a IA. O Reino Unido já iniciou uma investigação formal contra o X, e, se comprovado que a plataforma violou leis de segurança on-line, a empresa enfrentará multas de até 18 milhões de euros ou 10% de sua receita global. A União Europeia também pressiona a plataforma com base em suas leis de serviços digitais, exigindo transparência e proteção aos usuários.

Leia mais:

Grok admite falhas de segurança após gerar imagens sexualizadas de menores no X

Fotos de redes sociais eram usadas para clonar rostos com IA e aplicar golpes em Manaus

Entenda a polêmica

Os bloqueios ocorrem após usuários serem denunciados por usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas.

No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.

Pesquisadores da organização AI Forensics analisaram 20 mil imagens geradas pela ferramenta e descobriram uma alta prevalência de comandos solicitando a remoção de roupas.

Na semana passada, o Grok passou a informar que a edição de imagens passou a ser restrita a assinantes do serviço. A medida foi vista como tentativa de limitar a prática de criar deepfakes sensuais.

*Com informações de Canal Tech