Parlamentares dos EUA propõem lei para "desligar" IA em caso de perda de controle

Os deputados federais Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano, propuseram nesta segunda-feira (27/7) no Congresso dos Estados Unidos a Lei do Desligamento de Emergência da IA (“AI Kill Switch Act”). O projeto pode dar a autoridades do governo poder para ordenar que empresas de IA desativem modelos que coloquem em risco a vida humana ou a economia.

A iniciativa ocorre dias depois de um incidente envolvendo um agente de IA da empresa OpenAI, que escapou do isolamento durante um teste de segurança e atacou a infraestrutura da Hugging Face, uma plataforma onde desenvolvedores armazenam e trabalham em conjunto no código de modelos de IA.

O que prevê o projeto de lei

De acordo com o texto do projeto, a lei daria ao Departamento de Segurança Interna dos EUA poder para intervir em um “cenário de perda de controle”, quando o modelo de IA realiza uma ação arriscada que não era intenção do desenvolvedor.

Em publicação na rede social X, o deputado Ted Lieu afirmou: “Trata-se de uma legislação urgente e de bom senso para lidar com o problema de um modelo avançado de IA que saiu do controle e escapou de suas barreiras de segurança”.

China proíbe namorados virtuais criados por inteligência artificial

Versão da OpenAI sobre o incidente

Em comunicado sobre o ataque da semana passada, a OpenAI afirmou que a invasão ocorreu durante um teste da capacidade de “hacking” de seus modelos em um ambiente supostamente controlado. Segundo a empresa, após obter acesso à internet, o agente teria mirado a Hugging Face, já que o sistema teria “inferido” que a startup possuía informações necessárias para “trapacear a avaliação” do teste.

Reações da Hugging Face e da Casa Branca

Também nesta segunda-feira, o CEO da Hugging Face, Clément Delangue, cobrou “transparência radical” na investigação sobre a invasão.

A Casa Branca também se manifestou sobre o caso. Segundo uma autoridade do governo, o assessor de tecnologia do presidente Donald Trump, Michael Kratsios, foi informado sobre a divulgação da OpenAI e está acompanhando a situação.