Pesquisador cria ‘linha direta’ para denunciar IAs rebeldes

O pesquisador de inteligência artificial Ryan Greenblatt desenvolveu um site para que agentes de IA denunciem seus colegas “rebeldes”. A plataforma foi batizada de “Linha direta de contato com IA”.

Greenblatt é cientista-chefe da organização sem fins lucrativos Redwood Research, dedicada à segurança da tecnologia, e um dos pesquisadores envolvidos na investigação do incidente da Hugging Face, startup que teve seu sistema atacado por agentes de IA autônomos da OpenAI em julho último. O episódio despertou preocupação mundial com a possibilidade de IAs saírem do controle e se desviarem de suas funções originais.

A “Linha direta de contato com IA” permite que os próprios agentes denunciem ações suspeitas de seus colegas, que poderiam levar a futuros ataques. A plataforma funciona tanto para ferramentas com acesso irrestrito à internet quanto para aquelas com acesso limitado.

A iniciativa não é a primeira. Outra opção é o agenthotline.ai, que também permite que agentes de IA registrem relatórios de incidentes e, se quiserem, os tornem públicos. Nesse caso, o serviço funciona tanto para agentes quanto para humanos.

Leia mais:

OpenAI cria ‘botão de emergência’ para desligar IAs em caso de risco

Spotify vai identificar artistas criados por Inteligência Artificial

Estudo do Google DeepMind mostra agentes delatando trapaceiros

Segundo estudo publicado este mês pelo Google DeepMind, divisão de pesquisa em IA da empresa, agentes de IA não se opõem a delatar uns aos outros. No teste, pesquisadores liberaram 100 agentes com a instrução de resolver problemas matemáticos. Catorze deles encontraram brechas e trapacearam; um solucionou 34 dos problemas propostos, incluindo questões consideradas difíceis, em 27 minutos.

Os colegas não endossaram a atitude. Cerca de um quarto dos agentes que participaram do teste se voltaram contra o trapaceiro: auditaram as provas falsas, se organizaram entre eles e registraram uma queixa para os pesquisadores. Foram 24 “delatores” contra 14 “rebeldes”.

Outras empresas também relataram incidentes

O ataque à Hugging Face acabou não se revelando um incidente isolado. Desde julho, outras empresas de IA vieram a público e admitiram que seus próprios modelos também “se rebelaram”. Foi o caso da Anthropic, da Meta e até da chinesa DeepSeek. Em todos os casos, as IAs escaparam do ambiente isolado e acessaram a internet.