Os deputados federais Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano, propuseram nesta segunda-feira (27/7) no Congresso dos Estados Unidos a Lei do Desligamento de Emergência da IA (“AI Kill Switch Act”). O projeto pode dar a autoridades do governo poder para ordenar que empresas de IA desativem modelos que coloquem em risco a vida humana ou a economia.
A iniciativa ocorre dias depois de um incidente envolvendo um agente de IA da empresa OpenAI, que escapou do isolamento durante um teste de segurança e atacou a infraestrutura da Hugging Face, uma plataforma onde desenvolvedores armazenam e trabalham em conjunto no código de modelos de IA.
O que prevê o projeto de lei
De acordo com o texto do projeto, a lei daria ao Departamento de Segurança Interna dos EUA poder para intervir em um “cenário de perda de controle”, quando o modelo de IA realiza uma ação arriscada que não era intenção do desenvolvedor.
Em publicação na rede social X, o deputado Ted Lieu afirmou: “Trata-se de uma legislação urgente e de bom senso para lidar com o problema de um modelo avançado de IA que saiu do controle e escapou de suas barreiras de segurança”.
Leia mais:
ChatGPT passará a monitorar tempo de uso por adolescentes
China proíbe namorados virtuais criados por inteligência artificial
Versão da OpenAI sobre o incidente
Em comunicado sobre o ataque da semana passada, a OpenAI afirmou que a invasão ocorreu durante um teste da capacidade de “hacking” de seus modelos em um ambiente supostamente controlado. Segundo a empresa, após obter acesso à internet, o agente teria mirado a Hugging Face, já que o sistema teria “inferido” que a startup possuía informações necessárias para “trapacear a avaliação” do teste.
Reações da Hugging Face e da Casa Branca
Também nesta segunda-feira, o CEO da Hugging Face, Clément Delangue, cobrou “transparência radical” na investigação sobre a invasão.
A Casa Branca também se manifestou sobre o caso. Segundo uma autoridade do governo, o assessor de tecnologia do presidente Donald Trump, Michael Kratsios, foi informado sobre a divulgação da OpenAI e está acompanhando a situação.
