A plataforma X, do bilionário Elon Musk, anunciou na quarta-feira (14/1) medidas para impedir que seu chatbot de inteligência artificial, Grok, edite imagens de pessoas reais para gerar conteúdo sexual. A medida ocorre após semanas de reclamações e críticas globais sobre usuários usando a IA para remover roupas de mulheres e crianças em fotos.
“Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, informou a plataforma.
Mais cedo no mesmo dia, Musk se pronunciou sobre a polêmica e disse não ter conhecimento de imagens desse tipo produzidas pela plataforma.
“Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero. Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado”.
Veja abaixo:
Apesar do comentário de Musk, o Grok admitiu, no último dia 2 de janeiro, que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas no X há algumas semanas. Na ocasião, a empresa disse que melhorias estão sendo implementadas para evitar esse tipo de ocorrência.
Alguns usuários solicitaram edição para deixar pessoas usando biquíni, mas o Grok deixou de atender o comando, como mostra a imagem abaixo:
Leia mais:
Grok admite falhas de segurança após gerar imagens sexualizadas de menores no X
Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes
Entenda a polêmica
Nas últimas semanas, usuários começaram a ser denunciados por usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas.
No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.
Por causa da polêmica, vários países reagiram. A Inglaterra anunciou que vai investigar a plataforma, enquanto a Indonésia e a Malásia proibiram o uso do chatbot. A Índia, por sua vez, pediu explicações ao X e exigiu mais proteções na plataforma contra esses casos.
No Brasil, na última segunda (12), o Instituto de Defesa de Consumidores (Idec) pediu ao governo federal que suspenda o Grok no país.
*Com informações de G1
