Ouça a Rádio 92,3

Assista a TV 8.2

Ouça a Rádio 92,3

Assista a TV 8.2

Levantamento aponta que 3 milhões de imagens sexualizadas já foram criadas usando o Grok

Uma pesquisa conduzida pelo Center for Countering Digital Hate (CCDH) identificou que, desde o lançamento da ferramenta de geração de imagem com inteligência artificial Grok, ela foi usada para criar três milhões de conteúdos sexualizados, sendo 23 mil deles envolvendo crianças.

A organização fez a análise de 20 mil imagens aleatórias geradas pela IA da rede social X, empresa de Elon Musk, do total de 4,6 milhões criadas em 11 dias. A investigação permitiu identificar, com 95% de precisão, que essa parcela continha retratos explícitos de menores de idade.

Foram consideradas imagens sexualizadas as que tinham representações fotorrealistas de pessoas em posições, ângulos ou situações sexuais; pessoas usando roupas íntimas, trajes de banho ou vestimentas igualmente reveladoras; ou imagens que retratavam fluidos sexuais.

Foram encontradas imagens de pessoas usando biquínis transparentes ou microbiquíni; uma profissional de saúde uniformizada com fluidos brancos visíveis entre as pernas abertas; mulheres vestindo apenas fio dental, plástico filme ou fita transparente; e figuras públicas como Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, a vice-primeira-ministra da Suécia Ebba Busch e a ex-vice-presidente dos Estados Unidos Kamala Harris representadas de forma sexualizada.

Também segundo a pesquisa, a cada 41 segundos dos 11 dias analisados, foi criada ao menos uma imagem imprópria envolvendo crianças.


Leia mais:

Mãe de filho de Elon Musk acusa Grok de criar imagens sexualizadas e entra com processo

Austrália é o primeiro país do mundo a banir redes sociais para menores de 16 anos


Polêmica

A ferramenta de geração de imagens com a IA Grok foi disponibilizada na rede social X no dia 29 de dezembro. Desde então, recebeu críticas em todo o mundo. Usuários começaram a ser denunciados por usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas.

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes
Imagem de mulher manipulada por usuários do Grok (Foto: Divulgação).

No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.

Em 9 de janeiro a plataforma restringiu a edição de imagens apenas para usuários pagantes. No entanto, críticos apontaram que a medida foi insuficiente, já que esses assinantes continuavam com permissão para solicitar fotos que sexualizam mulheres e crianças.

Pouco depois, o X anunciou que estava tomando medidas para impedir remoção de roupas das imagens e fotos via Grok. Musk, porém, se pronunciou, afirmando que não tinha conhecimento de que o Grok estava gerando imagens explícitas e sexualizadas de menores de idade.

Por causa da polêmica, vários países reagiram. A Inglaterra anunciou que vai investigar a plataforma, enquanto a Indonésia e a Malásia proibiram o uso do chatbot. A Índia, por sua vez, pediu explicações ao X e exigiu mais proteções na plataforma contra esses casos.

*Com informações de CNN Brasil 

- Publicidade -[adrotate group="7"]

Uma pesquisa conduzida pelo Center for Countering Digital Hate (CCDH) identificou que, desde o lançamento da ferramenta de geração de imagem com inteligência artificial Grok, ela foi usada para criar três milhões de conteúdos sexualizados, sendo 23 mil deles envolvendo crianças.

A organização fez a análise de 20 mil imagens aleatórias geradas pela IA da rede social X, empresa de Elon Musk, do total de 4,6 milhões criadas em 11 dias. A investigação permitiu identificar, com 95% de precisão, que essa parcela continha retratos explícitos de menores de idade.

Foram consideradas imagens sexualizadas as que tinham representações fotorrealistas de pessoas em posições, ângulos ou situações sexuais; pessoas usando roupas íntimas, trajes de banho ou vestimentas igualmente reveladoras; ou imagens que retratavam fluidos sexuais.

Foram encontradas imagens de pessoas usando biquínis transparentes ou microbiquíni; uma profissional de saúde uniformizada com fluidos brancos visíveis entre as pernas abertas; mulheres vestindo apenas fio dental, plástico filme ou fita transparente; e figuras públicas como Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, a vice-primeira-ministra da Suécia Ebba Busch e a ex-vice-presidente dos Estados Unidos Kamala Harris representadas de forma sexualizada.

Também segundo a pesquisa, a cada 41 segundos dos 11 dias analisados, foi criada ao menos uma imagem imprópria envolvendo crianças.


Leia mais:

Mãe de filho de Elon Musk acusa Grok de criar imagens sexualizadas e entra com processo

Austrália é o primeiro país do mundo a banir redes sociais para menores de 16 anos


Polêmica

A ferramenta de geração de imagens com a IA Grok foi disponibilizada na rede social X no dia 29 de dezembro. Desde então, recebeu críticas em todo o mundo. Usuários começaram a ser denunciados por usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas.

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes
Imagem de mulher manipulada por usuários do Grok (Foto: Divulgação).

No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.

Em 9 de janeiro a plataforma restringiu a edição de imagens apenas para usuários pagantes. No entanto, críticos apontaram que a medida foi insuficiente, já que esses assinantes continuavam com permissão para solicitar fotos que sexualizam mulheres e crianças.

Pouco depois, o X anunciou que estava tomando medidas para impedir remoção de roupas das imagens e fotos via Grok. Musk, porém, se pronunciou, afirmando que não tinha conhecimento de que o Grok estava gerando imagens explícitas e sexualizadas de menores de idade.

Por causa da polêmica, vários países reagiram. A Inglaterra anunciou que vai investigar a plataforma, enquanto a Indonésia e a Malásia proibiram o uso do chatbot. A Índia, por sua vez, pediu explicações ao X e exigiu mais proteções na plataforma contra esses casos.

*Com informações de CNN Brasil 

- Publicidade -[adrotate group="9"]
Ivanildo Pereira
Ivanildo Pereira
Repórter de política na Rede Onda Digital, jornalista formado pela Faculdade Martha Falcão Wyden. Política, economia e artes são seus maiores interesses.

Mais lidas

Trump diz que não permitirá que empresas construam data centers fora dos EUA

O presidente dos Estados Unidos, Donald Trump, disse nesta sexta-feira (20/11) que o país não vai permitir que empresas americanas construam centros de dados...

Pesquisa Accenture: 57% dos brasileiros pretendem usar IA nas compras de fim de ano

Mais da metade dos brasileiros (57%) pretende usar inteligência artificial (IA) para encontrar ofertas nas compras de fim de ano. Apenas um quarto (25%),...
- Publicidade - [adrotate group="17"]

WhatsApp agora permite agendar mensagens; veja como funciona

O WhatsApp está liberando para alguns usuários no Brasil um recurso que permite escolher o dia e a hora em que uma mensagem será...

Entenda por que GTA VI virou um fenômeno antes mesmo do lançamento

Treze anos depois de GTA V, a franquia Grand Theft Auto ganha um novo capítulo e volta a colocar os jogadores em um universo...
- Publicidade - [adrotate group="18"]

GTA VI é lançado no Brasil e jogadores já podem acessar o game

O lançamento de GTA VI ocorreu no Brasil à meia-noite desta quinta-feira (19/11), no horário de Brasília. O novo jogo da Rockstar Games está...

Instagram libera edição de Stories após publicação; veja como funciona

O Instagram começou a liberar nesta quarta-feira (18/11) um recurso que permite editar Stories após a publicação. A ferramenta já está disponível no Brasil. Após...
- Publicidade - [adrotate group="19"]
- Publicidade - [adrotate group="1"]
Leia também

Trump diz que não permitirá que empresas construam data centers fora dos EUA

O presidente dos Estados Unidos, Donald Trump, disse nesta sexta-feira (20/11) que o país não vai permitir que empresas americanas construam centros de dados...

Pesquisa Accenture: 57% dos brasileiros pretendem usar IA nas compras de fim de ano

Mais da metade dos brasileiros (57%) pretende usar inteligência artificial (IA) para encontrar ofertas nas compras de fim de ano. Apenas um quarto (25%),...

WhatsApp agora permite agendar mensagens; veja como funciona

O WhatsApp está liberando para alguns usuários no Brasil um recurso que permite escolher o dia e a hora em que uma mensagem será...

Entenda por que GTA VI virou um fenômeno antes mesmo do lançamento

Treze anos depois de GTA V, a franquia Grand Theft Auto ganha um novo capítulo e volta a colocar os jogadores em um universo...

GTA VI é lançado no Brasil e jogadores já podem acessar o game

O lançamento de GTA VI ocorreu no Brasil à meia-noite desta quinta-feira (19/11), no horário de Brasília. O novo jogo da Rockstar Games está...

Instagram libera edição de Stories após publicação; veja como funciona

O Instagram começou a liberar nesta quarta-feira (18/11) um recurso que permite editar Stories após a publicação. A ferramenta já está disponível no Brasil. Após...
- Publicidade - [adrotate group="21"]
- Publicidade - [adrotate group="23"]