Uma startup da Nova Zelândia desenvolve uma ferramenta para identificar sinais de extremismo violento em usuários de plataformas como o ChatGPT e encaminhá-los a serviços especializados de apoio. A proposta combina inteligência artificial com atendimento humano para prevenir situações de risco.

O projeto é conduzido pela ThroughLine, que atua com empresas como OpenAI, Anthropic e Google. O sistema é ativado ao identificar indícios de violência, automutilação ou outros comportamentos críticos, conectando usuários a redes de suporte.

A iniciativa surge em meio ao aumento da pressão internacional por maior controle nas plataformas digitais. Em fevereiro, a OpenAI foi questionada pelo governo do Canadá após um caso envolvendo um ataque em escola. A empresa confirmou parceria com a ThroughLine, mas não detalhou a ferramenta.

Segundo o fundador Elliot Taylor, há planos de expandir o sistema para atuar diretamente na prevenção ao extremismo, com possível parceria com o The Christchurch Call. Ainda não há previsão de lançamento.

Atualmente, a startup mantém uma rede com cerca de 1,6 mil linhas de apoio em 180 países. Especialistas avaliam que a tecnologia pode ajudar a reduzir episódios de violência, mas apontam que sua eficácia dependerá da qualidade do atendimento oferecido. Também há o risco de usuários migrarem para plataformas menos moderadas, como o Telegram.

(*)Com informações do Olhar Digital