União Europeia inicia investigação contra X por imagens sexualizadas geradas pelo Grok

A União Europeia abriu nesta segunda-feira (26/1) uma nova investigação contra o X, antigo Twitter, para apurar se a plataforma avaliou e reduziu de forma adequada os riscos ligados ao uso do chatbot Grok, após a circulação de imagens sexualizadas geradas por inteligência artificial. A apuração é conduzida com base na Lei de Serviços Digitais (DSA), que regula a atuação das grandes empresas de tecnologia no bloco.

Em comunicado, a Comissão Europeia informou que irá verificar se o X adotou medidas suficientes para proteger usuários europeus de funcionalidades do Grok que permitiram a criação e a disseminação desse tipo de conteúdo. A investigação ocorre em meio a reações de autoridades e pressão pública diante do avanço de deepfakes sexuais, especialmente envolvendo mulheres e crianças.

A iniciativa da UE acontece poucos dias depois de o órgão regulador de mídia do Reino Unido, a Ofcom, abrir um processo semelhante para avaliar se o X descumpriu obrigações legais de proteção aos cidadãos. No início do mês, reguladores europeus classificaram as imagens como ilegais e ofensivas. A comissária europeia para tecnologia, Henna Virkkunen, afirmou que deepfakes sexuais sem consentimento representam uma forma grave de violação de direitos.

Segundo a Comissão, a análise também vai examinar se a empresa tratou eventuais danos aos usuários como efeitos colaterais aceitáveis de seus serviços. Há indícios, de acordo com autoridades do bloco, de que a xAI, responsável pelo Grok, não realizou uma avaliação específica de impacto antes de disponibilizar o recurso na Europa.

Leia mais

Levantamento aponta que 3 milhões de imagens sexualizadas já foram criadas usando o Grok

Nikolas Ferreira critica imprensa durante caminhada: “Não vi muitos de vocês”

O caso já provocou medidas em outros países. Indonésia, Filipinas e Malásia chegaram a bloquear temporariamente o Grok, decisão revertida após o anúncio de novos mecanismos de segurança. No Reino Unido, o governo antecipou a vigência de leis que criminalizam a criação de deepfakes íntimos sem consentimento. No Brasil, o Instituto Brasileiro de Defesa do Consumidor (Idec) solicitou a suspensão do chatbot, alegando violações de direitos de mulheres, crianças e adolescentes.

Em resposta, o X tem citado um comunicado divulgado em 14 de janeiro, no qual afirma que a xAI restringiu ferramentas de edição de imagens e passou a bloquear pedidos considerados ilegais em determinadas jurisdições. A empresa, no entanto, não especificou em quais países as restrições estão em vigor.

Apesar dessas medidas, a Comissão Europeia avalia que as ações são insuficientes. Caso sejam confirmadas infrações à DSA, o X poderá ser multado em até 6% de seu faturamento global anual.

O episódio também reacendeu o debate sobre a regulação da inteligência artificial na União Europeia. A eurodeputada Regina Doherty afirmou que o caso evidencia falhas na aplicação das normas atuais e defendeu ajustes rápidos sempre que riscos graves se tornarem evidentes.

(*)Com informações do Olhar Digital