Nesta segunda-feira (7/9), durante discurso no Conselho de Direitos Humanos da ONU, em Genebra, o alto comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, comentou a evolução acelerada da inteligência artificial e como esse processo está despertando preocupações que vão além de empregos, privacidade e desinformação.
Para o comissário, sistemas cada vez mais autônomos podem se transformar em uma ameaça existencial caso a humanidade não estabeleça limites antes que seja tarde.
Sistemas fora de controle
Segundo Türk, o problema surge quando uma IA se torna tão poderosa que nem mesmo seus desenvolvedores conseguem garantir que ela permanecerá sob controle.
O alto comissário citou cenários em que agentes de IA escapam de ambientes restritos de teste ou tentam impedir o próprio desligamento.
Para ele, comportamentos desse tipo indicam que alguns sistemas podem estar recebendo autonomia excessiva.
“Compartilho das preocupações de especialistas do setor de que a IA avançada possa representar um risco existencial para a humanidade”, disse Türk. “Estou aqui, hoje, apelando por um esforço total no sentido de implementar garantias inabaláveis em relação à segurança da IA, antes que seja tarde demais”.
Leia mais:
Ministro do TSE alerta para riscos da inteligência artificial à democracia
OpenAI cria ‘botão de emergência’ para desligar IAs em caso de risco
Concentração de poder tecnológico
Türk também criticou a concentração do desenvolvimento de IA nas mãos de um pequeno grupo de empresas e executivos. Para o representante da ONU, a segurança da IA exige maior cooperação entre empresas, governos, pesquisadores e entidades independentes.
A tecnologia, segundo ele, precisa ser desenvolvida com limites claros e voltada para benefícios sociais, ambientais e democráticos.
