O Google anunciou uma atualização no Gemini com novos recursos para situações de crise e saúde mental. A partir de agora, a IA da Google contará com uma interface de “um toque”, que mostra botões para entrar em contato com linhas de apoio quando o chatbot identifica sinais de risco, como menções a suicídio ou automutilação. Essas atualizações já estão disponíveis.

O recurso aparece dentro do módulo “Ajuda disponível” e traz opções para ligar, enviar SMS, iniciar um chat ou acessar o site de serviços especializados. Segundo a empresa, a mudança reduz o tempo para que o usuário busque suporte humano profissional.

A atualização também traz novas proteções para menores de idade, com regras que impedem o Gemini de adotar um tom de “companheiro”, simular vínculos emocionais ou sugerir intimidade com o usuário. O objetivo é impedir que adolescentes desenvolvam dependência emocional pela IA ou que comecem a vê-la como figura de apoio.

Além disso, o Google anunciou um investimento de US$ 30 milhões nos próximos três anos para apoiar linhas de atendimento a crises em vários países. A empresa ainda destinou US$ 4 milhões para a ReflexAI, que vai integrar o Gemini à plataforma de simulações “Prepare” para capacitar voluntários e profissionais.

As mudanças chegam após processos judiciais contra o Google, abertos em diversos países, apontando falhas de chatbots influenciando pessoas vulneráveis. Em pelo menos um caso, uma IA foi acusada de incentivar um homem a tirar a própria vida.