Governo cobra X por falhas do Grok e exige bloqueio de conteúdo sexualizado

A Secretaria Nacional do Consumidor (Senacon), a Autoridade Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF) consideraram insuficientes as explicações apresentadas pela plataforma X (antigo Twitter) sobre falhas envolvendo a ferramenta de inteligência artificial Grok. Segundo os órgãos, as medidas informadas pela empresa não vieram acompanhadas de provas técnicas que comprovem sua eficácia.

A avaliação ocorreu após o envio de uma Recomendação Conjunta que cobrava providências para impedir a geração de conteúdos sexualizados, especialmente envolvendo crianças, adolescentes e adultos sem consentimento. Embora o X tenha informado a remoção de milhares de publicações e a suspensão de contas, testes preliminares feitos pelas instituições apontaram que os problemas persistem.

Diante do cenário, Senacon e ANPD determinaram que a empresa adote imediatamente mecanismos técnicos e administrativos para bloquear a produção desse tipo de material em todas as versões do Grok disponíveis no mercado. Também exigiram relatórios detalhados com dados verificáveis sobre moderação, remoção de conteúdo, critérios adotados e eventuais punições aplicadas a usuários.

Leia mais

União Europeia inicia investigação contra X por imagens sexualizadas geradas pelo Grok

Mãe de filho de Elon Musk acusa Grok de criar imagens sexualizadas e entra com processo

A ANPD estabeleceu prazo de cinco dias úteis para que o X comprove o cumprimento das determinações e apresente documentação que ateste a efetividade das medidas.

No âmbito do MPF, a plataforma deverá enviar relatórios mensais com informações sobre ações adotadas para coibir deepfakes e conteúdos ilegais, incluindo número de postagens removidas e contas suspensas. O órgão afirmou que a resposta da empresa foi genérica e careceu de transparência.

As três instituições atuam de forma coordenada na apuração do caso. Caso as determinações não sejam cumpridas, o X poderá sofrer sanções administrativas, como multas, abertura de processos sancionadores e outras medidas judiciais. O MPF também alertou para a possibilidade de responsabilização por desobediência em caso de descumprimento das ordens.

(*)Com informações da Agência GOV e Olhar Digital