A plataforma X, do bilionário Elon Musk, anunciou na quarta-feira (14/1) medidas para impedir que seu chatbot de inteligência artificial, Grok, edite imagens de pessoas reais para gerar conteúdo sexual. A medida ocorre após semanas de reclamações e críticas globais sobre usuários usando a IA para remover roupas de mulheres e crianças em fotos.

“Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, informou a plataforma.

Mais cedo no mesmo dia, Musk se pronunciou sobre a polêmica e disse não ter conhecimento de imagens desse tipo produzidas pela plataforma.

“Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero. Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado”.

Veja abaixo:

I not aware of any naked underage images generated by Grok. Literally zero.

Obviously, Grok does not spontaneously generate images, it does so only according to user requests.

When asked to generate images, it will refuse to produce anything illegal, as the operating principle… https://t.co/YBoqo7ZmEj

— Elon Musk (@elonmusk) January 14, 2026

Apesar do comentário de Musk, o Grok admitiu, no último dia 2 de janeiro, que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas no X há algumas semanas. Na ocasião, a empresa disse que melhorias estão sendo implementadas para evitar esse tipo de ocorrência.

Alguns usuários solicitaram edição para deixar pessoas usando biquíni, mas o Grok deixou de atender o comando, como mostra a imagem abaixo:

Leia mais:

Grok admite falhas de segurança após gerar imagens sexualizadas de menores no X

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes

Entenda a polêmica

Nas últimas semanas, usuários começaram a ser denunciados por usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas.

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes — Imagem de mulher manipulada por usuários do Grok (Foto: Divulgação)

No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.

Por causa da polêmica, vários países reagiram. A Inglaterra anunciou que vai investigar a plataforma, enquanto a Indonésia e a Malásia proibiram o uso do chatbot. A Índia, por sua vez, pediu explicações ao X e exigiu mais proteções na plataforma contra esses casos.

No Brasil, na última segunda (12), o Instituto de Defesa de Consumidores (Idec) pediu ao governo federal que suspenda o Grok no país.

*Com informações de G1

Levantamento aponta que 3 milhões de imagens sexualizadas já foram criadas usando o Grok

Grok anuncia medidas para impedir edição de imagens que removam roupas das pessoas em fotos

Grok é bloqueado em alguns países por gerar deepfakes de mulheres e crianças

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes