IA poderosa demais pode representar ameaça à humanidade, diz ONU

Nesta segunda-feira (7/9), durante discurso no Conselho de Direitos Humanos da ONU, em Genebra, o alto comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, comentou a evolução acelerada da inteligência artificial e como esse processo está despertando preocupações que vão além de empregos, privacidade e desinformação.

Para o comissário, sistemas cada vez mais autônomos podem se transformar em uma ameaça existencial caso a humanidade não estabeleça limites antes que seja tarde.

Sistemas fora de controle

Segundo Türk, o problema surge quando uma IA se torna tão poderosa que nem mesmo seus desenvolvedores conseguem garantir que ela permanecerá sob controle.

O alto comissário citou cenários em que agentes de IA escapam de ambientes restritos de teste ou tentam impedir o próprio desligamento.

Para ele, comportamentos desse tipo indicam que alguns sistemas podem estar recebendo autonomia excessiva.

“Compartilho das preocupações de especialistas do setor de que a IA avançada possa representar um risco existencial para a humanidade”, disse Türk. “Estou aqui, hoje, apelando por um esforço total no sentido de implementar garantias inabaláveis em relação à segurança da IA, antes que seja tarde demais”.

OpenAI cria ‘botão de emergência’ para desligar IAs em caso de risco

Concentração de poder tecnológico

Türk também criticou a concentração do desenvolvimento de IA nas mãos de um pequeno grupo de empresas e executivos. Para o representante da ONU, a segurança da IA exige maior cooperação entre empresas, governos, pesquisadores e entidades independentes.

A tecnologia, segundo ele, precisa ser desenvolvida com limites claros e voltada para benefícios sociais, ambientais e democráticos.