A OpenAI lançou um novo recurso de segurança no ChatGPT chamado Contato de Confiança, que permite a usuários adultos cadastrar uma pessoa de confiança, como um amigo, familiar ou cuidador, para ser notificada caso o sistema detecte sinais de risco grave de suicídio ou automutilação durante uma conversa com o chatbot. O recurso já está disponível no Brasil.

O recurso é destinado a usuários com 18 anos ou mais em contas pessoais do ChatGPT. Contas empresariais, como as do plano Business ou Enterprise, não têm acesso à funcionalidade.

O processo tem quatro etapas. Primeiro, o usuário cadastra o contato nas configurações do ChatGPT informando o endereço de e-mail da pessoa indicada. O número de telefone é opcional, mas recomendado. Depois, o ChatGPT envia um convite que precisa ser aceito em até sete dias. Se expirar ou for recusado, o usuário precisa escolher outro contato.

A partir do cadastro, os sistemas da inteligência artificial começam a monitorar as conversas no ChatGPT. Caso elas indiquem risco de suicídio ou outra preocupação grave, ele avisa o próprio usuário que poderá acionar o contato cadastrado. Uma equipe de revisores humanos também vai analisar a situação. Se o risco for confirmado, o contato recebe uma mensagem por e-mail, SMS ou notificação no aplicativo.

Segundo a rede BBC, mais de 1 milhão dos 800 milhões de usuários semanais do ChatGPT expressam pensamentos suicidas em conversas com o chatbot.