Uma pesquisa conduzida pelo Center for Countering Digital Hate (CCDH) identificou que, desde o lançamento da ferramenta de geração de imagem com inteligência artificial Grok, ela foi usada para criar três milhões de conteúdos sexualizados, sendo 23 mil deles envolvendo crianças.
A organização fez a análise de 20 mil imagens aleatórias geradas pela IA da rede social X, empresa de Elon Musk, do total de 4,6 milhões criadas em 11 dias. A investigação permitiu identificar, com 95% de precisão, que essa parcela continha retratos explícitos de menores de idade.
Foram consideradas imagens sexualizadas as que tinham representações fotorrealistas de pessoas em posições, ângulos ou situações sexuais; pessoas usando roupas íntimas, trajes de banho ou vestimentas igualmente reveladoras; ou imagens que retratavam fluidos sexuais.
Foram encontradas imagens de pessoas usando biquínis transparentes ou microbiquíni; uma profissional de saúde uniformizada com fluidos brancos visíveis entre as pernas abertas; mulheres vestindo apenas fio dental, plástico filme ou fita transparente; e figuras públicas como Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, a vice-primeira-ministra da Suécia Ebba Busch e a ex-vice-presidente dos Estados Unidos Kamala Harris representadas de forma sexualizada.
Também segundo a pesquisa, a cada 41 segundos dos 11 dias analisados, foi criada ao menos uma imagem imprópria envolvendo crianças.
Leia mais:
Mãe de filho de Elon Musk acusa Grok de criar imagens sexualizadas e entra com processo
Austrália é o primeiro país do mundo a banir redes sociais para menores de 16 anos
Polêmica
A ferramenta de geração de imagens com a IA Grok foi disponibilizada na rede social X no dia 29 de dezembro. Desde então, recebeu críticas em todo o mundo. Usuários começaram a ser denunciados por usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas.
No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.
Em 9 de janeiro a plataforma restringiu a edição de imagens apenas para usuários pagantes. No entanto, críticos apontaram que a medida foi insuficiente, já que esses assinantes continuavam com permissão para solicitar fotos que sexualizam mulheres e crianças.
Pouco depois, o X anunciou que estava tomando medidas para impedir remoção de roupas das imagens e fotos via Grok. Musk, porém, se pronunciou, afirmando que não tinha conhecimento de que o Grok estava gerando imagens explícitas e sexualizadas de menores de idade.
Por causa da polêmica, vários países reagiram. A Inglaterra anunciou que vai investigar a plataforma, enquanto a Indonésia e a Malásia proibiram o uso do chatbot. A Índia, por sua vez, pediu explicações ao X e exigiu mais proteções na plataforma contra esses casos.
*Com informações de CNN Brasil