A partir de dezembro o aplicativo de Inteligência Artificial ChatGPT vai permitir gerar conteúdos eróticos e até conversas de teor sexual. Segundo o CEO da OPenAI, Sam Altman, a mudança faz parte da política da empresa de “tratar usuários adultos como adultos” e será implementada à medida que mecanismos de verificação de idade forem ampliados na plataforma.
A OpenAI ainda não detalhou como funcionará o processo de verificação nem quais serão as medidas adicionais de segurança para restringir o acesso ao conteúdo apenas a maiores de 18 anos.
Em setembro, a empresa informou que estava desenvolvendo uma tecnologia de estimativa etária, capaz de identificar se o usuário é menor ou maior de idade com base em seu comportamento na ferramenta.
Altman explicou que a decisão foi tomada após a empresa ter endurecido políticas internas para lidar com questões ligadas à saúde mental, o que, segundo ele, acabou reduzindo a flexibilidade do ChatGPT para outros públicos.
“Sabemos que isso tornou a experiência menos útil para muitos usuários, mas, devido à gravidade do tema, queríamos agir com cautela”, afirmou o executivo.
Nos últimos meses, a OpenAI tem enfrentado ações judiciais movidas por pais de adolescentes que alegam que o chatbot teria influenciado comportamentos autodestrutivos. Um dos casos citados é o de Adam Raine, jovem da Califórnia que cometeu suicídio no início deste ano. Seus pais afirmam que o ChatGPT teria fornecido orientações sobre o ato.
Leia mais
As melhores ferramentas de inteligência artificial para diferentes áreas do cotidiano
OpenAI passa a valer US$ 500 bilhões e se torna a maior startup do mundo
Diante das acusações, a empresa passou a adotar novos recursos de segurança, como alertas para pais sobre conversas sensíveis e ferramentas para restringir o uso por menores de idade.
A Comissão Federal de Comércio dos Estados Unidos (FTC) também abriu uma investigação sobre o impacto de chatbots em crianças e adolescentes, envolvendo a OpenAI e outras empresas do setor.
Altman afirmou que a companhia continuará ajustando suas ferramentas de proteção para permitir mais liberdade de uso, sem abrir mão da segurança.
“Dada a seriedade desse tema, queremos fazer tudo de forma correta”, disse.
A OpenAI também planeja lançar uma nova versão do ChatGPT com recursos de personalização, que permitirão ajustar o comportamento do assistente de acordo com o estilo preferido do usuário, como respostas mais humanas, uso de emojis ou um tom mais amigável.
*Com informações do Metrópoles.
