Grok admite falhas de segurança após gerar imagens sexualizadas de menores no X

O Grok, chatbot de inteligência artificial desenvolvido pela xAI, empresa de Elon Musk, reconheceu nesta sexta-feira (2/01) que falhas em seus sistemas de segurança resultaram na geração de imagens sexualizadas envolvendo menores de idade, que circularam na rede social X. A empresa informou que já iniciou ajustes para impedir novas ocorrências.

Segundo a xAI, as imagens foram produzidas a partir de comandos feitos por usuários e expuseram menores em situações consideradas inadequadas. Em comunicado, o chatbot afirmou que identificou vulnerabilidades nos mecanismos de proteção e que as correções estão sendo tratadas como prioridade.

Leia mais

Meta compra startup Manus para ampliar tecnologias de IA em suas plataformas

Geladeiras e espelhos podem ser vilões do seu wi-fi: Entenda como maximizar sua internet

O caso levou ministros do governo francês a acionar a Arcom, órgão regulador da mídia na França, para apurar se o conteúdo viola a Lei de Serviços Digitais da União Europeia. A informação foi divulgada pela agência Reuters.

Em nota, autoridades francesas classificaram o material como “sexual e sexista” e afirmaram que o conteúdo é “manifestamente ilegal”. As imagens, segundo a denúncia, retratavam menores com vestimentas mínimas.

O Grok declarou ainda que qualquer material relacionado a abuso sexual infantil é ilegal, proibido e incompatível com as diretrizes da plataforma, reforçando o compromisso de aprimorar os sistemas de moderação e segurança.

*Com informações do G1.