Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes

O Grok, inteligência artificial do X, passou a informar nos últimos dias que a edição de imagens passou a ser restrita a assinantes do serviço. A mudança ocorre após recente polêmica envolvendo a IA, usada por internautas para manipular fotos de mulheres e crianças reais, colocando-as com pouca ou nenhuma roupa.

No dia 2 de janeiro, o Grok afirmou que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas na rede social X.

Reguladores de países como Reino Unido, França, Índia e Malásia pretendem investigar a empresa, que pertence ao bilionário Elon Musk, por causa dessas imagens, apontou a agência de notícias France Presse. A Comissão Europeia ordenou que o X retenha todos os documentos internos e dados relacionados ao seu chatbot de IA até o fim de 2026.

Leia mais:

Grok admite falhas de segurança após gerar imagens sexualizadas de menores no X

Estudo aponta que IA aumenta a criação de deepfakes de pornografia com mulheres

No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.

No Brasil, esse tipo de conduta é considerada crime. Segundo Ronaldo Lemos, advogado e diretor do Instituto Tecnologia e Sociedade do Rio de Janeiro (ITS-Rio), embora o Brasil ainda não tenha uma lei específica sobre deepfakes (quando imagens reais são alteradas por inteligência artificial), esse tipo de conduta pode se enquadrar nos crimes contra a honra previstos nos artigos 138, 139 e 140 do Código Penal.

O que fazer se você ou alguém próximo for vítima:

1. Preserve as provas: não apague nada inicialmente. Tire prints do perfil do responsável, da imagem gerada, dos comentários e, principalmente, da URL (link) direta da postagem.
2. Registre a autenticidade do material: se possível, use ferramentas de registro de prova digital com validade jurídica, como a ata notarial em cartório ou plataformas online, como o e-Notariado. Esses registros ajudam a evitar que as provas sejam contestadas.
3. Denuncie o conteúdo na plataforma: use os mecanismos internos da rede social para denunciar a violação. O Marco Civil da Internet obriga a remoção rápida de conteúdo íntimo não consensual após notificação da vítima.
4. Registre um boletim de ocorrência: procure uma Delegacia de Crimes Cibernéticos ou faça o registro pela internet, reunindo todas as provas coletadas.

*Com informações de G1