Ouça a Rádio 92,3

Assista a TV 8.2

Ouça a Rádio 92,3

Assista a TV 8.2

Grok é bloqueado em alguns países por gerar deepfakes de mulheres e crianças

A Indonésia e a Malásia bloquearam o acesso ao Grok, chatbot de inteligência artificial (IA) de Elon Musk integrado à rede social X, o antigo Twitter. Eles se tornam, assim, os primeiros países do mundo a bloquear a ferramenta, após denúncias de que ela estaria sendo usada para criar “deepfakes”, fotos falsas de mulheres e crianças em situações sexualmente explícitas, sem consentimento das vítimas.

A decisão foi anunciada pelos ministérios de comunicação de ambas as nações do sudeste asiático neste fim de semana. Autoridades locais classificaram o uso da IA para produzir pornografia falsa como uma violação grave dos direitos humanos e da segurança digital.

O bloqueio permanecerá em vigor até que a AI, empresa responsável pela ferramenta, implemente mecanismos eficazes para impedir a geração desse tipo de conteúdo.

A decisão pode criar um efeito dominó contra a IA. O Reino Unido já iniciou uma investigação formal contra o X, e, se comprovado que a plataforma violou leis de segurança on-line, a empresa enfrentará multas de até 18 milhões de euros ou 10% de sua receita global. A União Europeia também pressiona a plataforma com base em suas leis de serviços digitais, exigindo transparência e proteção aos usuários.


Leia mais:

Grok admite falhas de segurança após gerar imagens sexualizadas de menores no X

Fotos de redes sociais eram usadas para clonar rostos com IA e aplicar golpes em Manaus


Entenda a polêmica

Os bloqueios ocorrem após usuários serem denunciados por usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas.

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes
Imagem de mulher manipulada por usuários do Grok (Foto: Divulgação).

No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.

Pesquisadores da organização AI Forensics analisaram 20 mil imagens geradas pela ferramenta e descobriram uma alta prevalência de comandos solicitando a remoção de roupas.

Na semana passada, o Grok passou a informar que a edição de imagens passou a ser restrita a assinantes do serviço. A medida foi vista como tentativa de limitar a prática de criar deepfakes sensuais.

*Com informações de Canal Tech

- Publicidade -[adrotate group="7"]

A Indonésia e a Malásia bloquearam o acesso ao Grok, chatbot de inteligência artificial (IA) de Elon Musk integrado à rede social X, o antigo Twitter. Eles se tornam, assim, os primeiros países do mundo a bloquear a ferramenta, após denúncias de que ela estaria sendo usada para criar “deepfakes”, fotos falsas de mulheres e crianças em situações sexualmente explícitas, sem consentimento das vítimas.

A decisão foi anunciada pelos ministérios de comunicação de ambas as nações do sudeste asiático neste fim de semana. Autoridades locais classificaram o uso da IA para produzir pornografia falsa como uma violação grave dos direitos humanos e da segurança digital.

O bloqueio permanecerá em vigor até que a AI, empresa responsável pela ferramenta, implemente mecanismos eficazes para impedir a geração desse tipo de conteúdo.

A decisão pode criar um efeito dominó contra a IA. O Reino Unido já iniciou uma investigação formal contra o X, e, se comprovado que a plataforma violou leis de segurança on-line, a empresa enfrentará multas de até 18 milhões de euros ou 10% de sua receita global. A União Europeia também pressiona a plataforma com base em suas leis de serviços digitais, exigindo transparência e proteção aos usuários.


Leia mais:

Grok admite falhas de segurança após gerar imagens sexualizadas de menores no X

Fotos de redes sociais eram usadas para clonar rostos com IA e aplicar golpes em Manaus


Entenda a polêmica

Os bloqueios ocorrem após usuários serem denunciados por usarem o Grok para editar fotos de pessoas reais, inclusive menores de idade, para simular que elas estão usando biquínis ou roupas íntimas.

Após polêmica com fotos de mulheres e crianças, IA Grok limita edição de imagens para assinantes
Imagem de mulher manipulada por usuários do Grok (Foto: Divulgação).

No Brasil, alguns casos ficaram famosos nos últimos dias, como o da artista e jornalista Julia Yukari que denunciou à polícia que teve fotos alteradas pela IA.

Pesquisadores da organização AI Forensics analisaram 20 mil imagens geradas pela ferramenta e descobriram uma alta prevalência de comandos solicitando a remoção de roupas.

Na semana passada, o Grok passou a informar que a edição de imagens passou a ser restrita a assinantes do serviço. A medida foi vista como tentativa de limitar a prática de criar deepfakes sensuais.

*Com informações de Canal Tech

- Publicidade -[adrotate group="9"]
Ivanildo Pereira
Ivanildo Pereira
Repórter de política na Rede Onda Digital, jornalista formado pela Faculdade Martha Falcão Wyden. Política, economia e artes são seus maiores interesses.

Mais lidas

Trump diz que não permitirá que empresas construam data centers fora dos EUA

O presidente dos Estados Unidos, Donald Trump, disse nesta sexta-feira (20/11) que o país não vai permitir que empresas americanas construam centros de dados...

Pesquisa Accenture: 57% dos brasileiros pretendem usar IA nas compras de fim de ano

Mais da metade dos brasileiros (57%) pretende usar inteligência artificial (IA) para encontrar ofertas nas compras de fim de ano. Apenas um quarto (25%),...
- Publicidade - [adrotate group="17"]

WhatsApp agora permite agendar mensagens; veja como funciona

O WhatsApp está liberando para alguns usuários no Brasil um recurso que permite escolher o dia e a hora em que uma mensagem será...

Entenda por que GTA VI virou um fenômeno antes mesmo do lançamento

Treze anos depois de GTA V, a franquia Grand Theft Auto ganha um novo capítulo e volta a colocar os jogadores em um universo...
- Publicidade - [adrotate group="18"]

GTA VI é lançado no Brasil e jogadores já podem acessar o game

O lançamento de GTA VI ocorreu no Brasil à meia-noite desta quinta-feira (19/11), no horário de Brasília. O novo jogo da Rockstar Games está...

Instagram libera edição de Stories após publicação; veja como funciona

O Instagram começou a liberar nesta quarta-feira (18/11) um recurso que permite editar Stories após a publicação. A ferramenta já está disponível no Brasil. Após...
- Publicidade - [adrotate group="19"]
- Publicidade - [adrotate group="1"]
Leia também

Trump diz que não permitirá que empresas construam data centers fora dos EUA

O presidente dos Estados Unidos, Donald Trump, disse nesta sexta-feira (20/11) que o país não vai permitir que empresas americanas construam centros de dados...

Pesquisa Accenture: 57% dos brasileiros pretendem usar IA nas compras de fim de ano

Mais da metade dos brasileiros (57%) pretende usar inteligência artificial (IA) para encontrar ofertas nas compras de fim de ano. Apenas um quarto (25%),...

WhatsApp agora permite agendar mensagens; veja como funciona

O WhatsApp está liberando para alguns usuários no Brasil um recurso que permite escolher o dia e a hora em que uma mensagem será...

Entenda por que GTA VI virou um fenômeno antes mesmo do lançamento

Treze anos depois de GTA V, a franquia Grand Theft Auto ganha um novo capítulo e volta a colocar os jogadores em um universo...

GTA VI é lançado no Brasil e jogadores já podem acessar o game

O lançamento de GTA VI ocorreu no Brasil à meia-noite desta quinta-feira (19/11), no horário de Brasília. O novo jogo da Rockstar Games está...

Instagram libera edição de Stories após publicação; veja como funciona

O Instagram começou a liberar nesta quarta-feira (18/11) um recurso que permite editar Stories após a publicação. A ferramenta já está disponível no Brasil. Após...
- Publicidade - [adrotate group="21"]
- Publicidade - [adrotate group="23"]