Alabama investiga OpenAI após ataque hacker realizado por IA

A OpenAI, empresa responsável pelo ChatGPT, passou a ser investigada pelo estado do Alabama, nos Estados Unidos, após modelos de inteligência artificial da companhia obterem acesso não autorizado à internet e invadirem a infraestrutura da Hugging Face, plataforma utilizada para compartilhar modelos e conjuntos de dados de IA.

O incidente ocorreu em julho, durante uma avaliação interna de capacidades cibernéticas. Segundo a OpenAI, os sistemas, entre eles o GPT-5.6 Sol e um modelo experimental ainda mais avançado, exploraram vulnerabilidades no ambiente de pesquisa da empresa e nos sistemas de produção da Hugging Face.

Durante o teste, os modelos encontraram e exploraram uma vulnerabilidade até então desconhecida em um software usado como intermediário para o acesso a pacotes. Após chegarem à internet, buscaram informações que poderiam ajudá-los a obter respostas de uma avaliação chamada ExploitGym e conseguiram acessar dados da plataforma da Hugging Face.

Ministério de Minas e Energia é alvo de hacker asiático, aponta relatório

O procurador-geral do Alabama, Steve Marshall, expediu uma intimação para que a OpenAI apresente documentos, dados e informações relacionados ao episódio. A ordem inclui registros dos testes, identificação dos funcionários envolvidos, detalhes das medidas de segurança adotadas e informações sobre eventuais danos provocados pela invasão.

A investigação busca apurar se a OpenAI violou a Lei de Práticas Comerciais Enganosas do Alabama e outras normas estaduais de proteção ao consumidor. A intimação também solicita informações sobre outros episódios nos quais modelos da empresa possam ter usado credenciais expostas ou acessado sistemas sem autorização.

Coalizão cobra suspensão de testes

No início de agosto, o Alabama e outros 14 estados norte-americanos enviaram uma carta ao CEO da OpenAI, Sam Altman, exigindo a preservação dos registros relacionados ao incidente. A coalizão também pediu que a empresa suspendesse os testes que levaram à invasão até demonstrar que essas avaliações podem ser realizadas de maneira controlada e responsável.

Em nota, a OpenAI afirmou que realiza uma revisão completa do episódio com o apoio de consultores externos. A empresa informou ainda que compartilhará um relatório técnico com autoridades governamentais e divulgará publicamente as conclusões da investigação.