Ouça a Rádio 92,3

Assista a TV 8.2

Ouça a Rádio 92,3

Assista a TV 8.2

Grok anuncia medidas para impedir edição de imagens que removam roupas das pessoas em fotos

A plataforma X, do bilionário Elon Musk, anunciou na quarta-feira (14/1) medidas para impedir que seu chatbot de inteligência artificial, Grok, edite imagens de pessoas reais para gerar conteúdo sexual. A medida ocorre após semanas de reclamações e críticas globais sobre usuários usando a IA para remover roupas de mulheres e crianças em fotos.

“Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, informou a plataforma.

Mais cedo no mesmo dia, Musk se pronunciou sobre a polêmica e disse não ter conhecimento de imagens desse tipo produzidas pela plataforma.

“Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero. Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado”.

Veja abaixo:

Apesar do comentário de Musk, o Grok admitiu, no último dia 2 de janeiro, que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas no X há algumas semanas. Na ocasião, a empresa disse que melhorias estão sendo implementadas para evitar esse tipo de ocorrência.

Alguns usuários solicitaram edição para deixar pessoas usando biquíni, mas o Grok deixou de atender o comando, como mostra a imagem abaixo:

(Foto: Reprodução/G1)

Leia mais:

Grok admite falhas de segurança após gerar imagens sexualizadas de menores no X

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes


Entenda a polêmica

Nas últimas semanas, usuários começaram a ser denunciados por usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas.

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes
Imagem de mulher manipulada por usuários do Grok (Foto: Divulgação)

No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.

Por causa da polêmica, vários países reagiram. A Inglaterra anunciou que vai investigar a plataforma, enquanto a Indonésia e a Malásia proibiram o uso do chatbot. A Índia, por sua vez, pediu explicações ao X e exigiu mais proteções na plataforma contra esses casos.

No Brasil, na última segunda (12), o Instituto de Defesa de Consumidores (Idec) pediu ao governo federal que suspenda o Grok no país.

*Com informações de G1

- Publicidade -[adrotate group="7"]

A plataforma X, do bilionário Elon Musk, anunciou na quarta-feira (14/1) medidas para impedir que seu chatbot de inteligência artificial, Grok, edite imagens de pessoas reais para gerar conteúdo sexual. A medida ocorre após semanas de reclamações e críticas globais sobre usuários usando a IA para remover roupas de mulheres e crianças em fotos.

“Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, informou a plataforma.

Mais cedo no mesmo dia, Musk se pronunciou sobre a polêmica e disse não ter conhecimento de imagens desse tipo produzidas pela plataforma.

“Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero. Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado”.

Veja abaixo:

Apesar do comentário de Musk, o Grok admitiu, no último dia 2 de janeiro, que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas no X há algumas semanas. Na ocasião, a empresa disse que melhorias estão sendo implementadas para evitar esse tipo de ocorrência.

Alguns usuários solicitaram edição para deixar pessoas usando biquíni, mas o Grok deixou de atender o comando, como mostra a imagem abaixo:

(Foto: Reprodução/G1)

Leia mais:

Grok admite falhas de segurança após gerar imagens sexualizadas de menores no X

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes


Entenda a polêmica

Nas últimas semanas, usuários começaram a ser denunciados por usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas.

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes
Imagem de mulher manipulada por usuários do Grok (Foto: Divulgação)

No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.

Por causa da polêmica, vários países reagiram. A Inglaterra anunciou que vai investigar a plataforma, enquanto a Indonésia e a Malásia proibiram o uso do chatbot. A Índia, por sua vez, pediu explicações ao X e exigiu mais proteções na plataforma contra esses casos.

No Brasil, na última segunda (12), o Instituto de Defesa de Consumidores (Idec) pediu ao governo federal que suspenda o Grok no país.

*Com informações de G1

- Publicidade -[adrotate group="9"]
Ivanildo Pereira
Ivanildo Pereira
Repórter de política na Rede Onda Digital, jornalista formado pela Faculdade Martha Falcão Wyden. Política, economia e artes são seus maiores interesses.

Mais lidas

Trump diz que não permitirá que empresas construam data centers fora dos EUA

O presidente dos Estados Unidos, Donald Trump, disse nesta sexta-feira (20/11) que o país não vai permitir que empresas americanas construam centros de dados...

Pesquisa Accenture: 57% dos brasileiros pretendem usar IA nas compras de fim de ano

Mais da metade dos brasileiros (57%) pretende usar inteligência artificial (IA) para encontrar ofertas nas compras de fim de ano. Apenas um quarto (25%),...
- Publicidade - [adrotate group="17"]

WhatsApp agora permite agendar mensagens; veja como funciona

O WhatsApp está liberando para alguns usuários no Brasil um recurso que permite escolher o dia e a hora em que uma mensagem será...

Entenda por que GTA VI virou um fenômeno antes mesmo do lançamento

Treze anos depois de GTA V, a franquia Grand Theft Auto ganha um novo capítulo e volta a colocar os jogadores em um universo...
- Publicidade - [adrotate group="18"]

GTA VI é lançado no Brasil e jogadores já podem acessar o game

O lançamento de GTA VI ocorreu no Brasil à meia-noite desta quinta-feira (19/11), no horário de Brasília. O novo jogo da Rockstar Games está...

Instagram libera edição de Stories após publicação; veja como funciona

O Instagram começou a liberar nesta quarta-feira (18/11) um recurso que permite editar Stories após a publicação. A ferramenta já está disponível no Brasil. Após...
- Publicidade - [adrotate group="19"]
- Publicidade - [adrotate group="1"]
Leia também

Trump diz que não permitirá que empresas construam data centers fora dos EUA

O presidente dos Estados Unidos, Donald Trump, disse nesta sexta-feira (20/11) que o país não vai permitir que empresas americanas construam centros de dados...

Pesquisa Accenture: 57% dos brasileiros pretendem usar IA nas compras de fim de ano

Mais da metade dos brasileiros (57%) pretende usar inteligência artificial (IA) para encontrar ofertas nas compras de fim de ano. Apenas um quarto (25%),...

WhatsApp agora permite agendar mensagens; veja como funciona

O WhatsApp está liberando para alguns usuários no Brasil um recurso que permite escolher o dia e a hora em que uma mensagem será...

Entenda por que GTA VI virou um fenômeno antes mesmo do lançamento

Treze anos depois de GTA V, a franquia Grand Theft Auto ganha um novo capítulo e volta a colocar os jogadores em um universo...

GTA VI é lançado no Brasil e jogadores já podem acessar o game

O lançamento de GTA VI ocorreu no Brasil à meia-noite desta quinta-feira (19/11), no horário de Brasília. O novo jogo da Rockstar Games está...

Instagram libera edição de Stories após publicação; veja como funciona

O Instagram começou a liberar nesta quarta-feira (18/11) um recurso que permite editar Stories após a publicação. A ferramenta já está disponível no Brasil. Após...
- Publicidade - [adrotate group="21"]
- Publicidade - [adrotate group="23"]