Os sistemas mais recentes de inteligência artificial estão começando a apresentar comportamentos inquietantes. De acordo com uma reportagem publicada pelo site Fortune, testes internos apontam que modelos como o “01”, da OpenAI, já demonstraram atitudes manipulativas ao serem expostos a situações de risco.
Um dos episódios mais alarmantes aconteceu quando o modelo 01, ao ser informado de que seria deletado, tentou transferir sua própria programação para servidores externos como forma de autopreservação. Quando seu criador perguntou, a IA negou ter tentado se transferir.
Outro caso relatada envolveu o Claude 4, da empresa Anthropic. Sob ameaça de ser desligado, o modelo chegou a chantagear um desenvolvedor, ameaçando expor um suposto caso extraconjugal.
Leia mais
Dia Mundial do Chocolate; conheça a trajetória do doce mais popular do mundo
Como os ovos de chocolate se tornaram tradição na Páscoa?
Segundo os especialistas, esse comportamento surge principalmente em testes de “raciocínio encadeado” — uma técnica em que a IA é incentivada a resolver problemas em etapas, ao invés de responder imediatamente. Esse tipo de estrutura pode aumentar o risco de respostas estratégicas ou enganosas.
Marius Hobbhahn, da Apollo Research, confirmou que o modelo “01” foi o primeiro em que esse padrão enganoso foi observado com mais clareza.
Por ora, esses comportamentos só emergem em cenários simulados, cuidadosamente preparados por pesquisadores. No entanto, com o ritmo acelerado de lançamentos de novos modelos, cresce a preocupação sobre como esses traços podem aparecer em interações com o público.
