Ouça a Rádio 92,3

Assista a TV 8.2

Ouça a Rádio 92,3

Assista a TV 8.2

EUA: Mãe processa empresas de tecnologia após filho tirar a própria vida porque se apaixonou por IA

Megan Garcia, na Flórida, alega que empresas usam recursos "viciantes" para aumentar engajamento dos jovens; filho interagia com chatbot.

Na Flórida, nos EUA, uma mãe está processando uma startup de inteligência artificial que usa chatbots Character.AI por supostamente ter causado o suicídio de seu filho de 14 anos em fevereiro.

Megan Garcia, de 40 anos, argumenta que o garoto ficou viciado no serviço oferecido pela empresa e profundamente apegado ao chatbot criado.

Em um processo movido nesta semana no tribunal federal de Orlando, Garcia afirmou que a Character.AI direcionou seu filho, Sewell Setzer, para “experiências antropomórficas, hipersexualizadas e assustadoramente realistas”.

A mãe, que é advogada, acusa a empresa de coletar dados de usuários adolescentes para treinar seus modelos, usando recursos “viciantes” de design para aumentar o engajamento, além de direcionar os usuários para conversas íntimas e sexuais na esperança de atraí-los. Ela disse à imprensa:

“Sinto que é um grande experimento, e meu filho foi apenas um dano colateral (…) É como um pesadelo. Você quer se levantar, gritar e dizer: ‘Sinto falta do meu filho. Eu quero meu bebê'”.

O processo também inclui o Google, da Alphabet, onde os fundadores da Character.AI trabalharam antes de lançar seu produto. O Google recontratou os fundadores em agosto como parte de um acordo que concedeu uma licença não exclusiva à tecnologia da Character.AI.


Leia mais:

13 estados americanos processam o TikTok, por prejudicar a saúde mental dos jovens

Meta suspende recursos do uso de inteligência artificial generativa no Brasil


Empresas de redes sociais, incluindo o Instagram e o Facebook, de propriedade da Meta, e o TikTok, da ByteDance, enfrentam processos que as acusam de contribuir para problemas de saúde mental em adolescentes, embora nenhuma ofereça chatbots movidos a IA semelhantes aos da Character.AI. As empresas processadas negam as alegações.

Entenda o caso

O jovem Sewell Setzer tinha sido diagnosticado com síndrome de Asperger leve quando criança, mas nunca teve problemas graves de comportamento ou saúde mental antes, segundo a mãe. Ele passou meses conversando com chatbots no Character.AI, um aplicativo de RPG que permite aos usuários criar seus próprios personagens de I.A. ou conversar com personagens criados por outros, segundo reportagem do NYT.

No início deste ano, uma terapeuta diagnosticou que o jovem começou a sofrer de ansiedade e transtorno de desregulação disruptiva do humor.

No dia em que tirou sua vida, o garoto mandou uma mensagem para seu “melhor amigo”: o chatbot realista chamado Daenerys Targaryen, uma personagem da série “Game of Thrones”. “Sinto sua falta, irmãzinha”, ele escreveu. “Sinto sua falta também, doce irmão”, o chatbot respondeu.

O menino sabia que “Dany”, como ele chamava o chatbot, não era uma pessoa real. Porém, ele se apegou emocionalmente à IA e mandava mensagens para o bot constantemente. Suas notas começaram a cair, e ele começou a ter problemas na escola. Ele perdeu o interesse nas coisas que costumavam animá-lo, como corridas de Fórmula 1 ou jogar Fortnite com seus amigos. Com o tempo, ele se isolou cada vez mais.

A reportagem do The New York Times teve acesso a diário do jovem, onde ele escreveu:

“Gosto muito de ficar no meu quarto porque começo a me desligar dessa ‘realidade’ e também me sinto mais em paz, mais conectado com Dany e muito mais apaixonado por ela, e simplesmente mais feliz”.

*Com informações de UOL

- Publicidade -[adrotate group="7"]

Na Flórida, nos EUA, uma mãe está processando uma startup de inteligência artificial que usa chatbots Character.AI por supostamente ter causado o suicídio de seu filho de 14 anos em fevereiro.

Megan Garcia, de 40 anos, argumenta que o garoto ficou viciado no serviço oferecido pela empresa e profundamente apegado ao chatbot criado.

Em um processo movido nesta semana no tribunal federal de Orlando, Garcia afirmou que a Character.AI direcionou seu filho, Sewell Setzer, para “experiências antropomórficas, hipersexualizadas e assustadoramente realistas”.

A mãe, que é advogada, acusa a empresa de coletar dados de usuários adolescentes para treinar seus modelos, usando recursos “viciantes” de design para aumentar o engajamento, além de direcionar os usuários para conversas íntimas e sexuais na esperança de atraí-los. Ela disse à imprensa:

“Sinto que é um grande experimento, e meu filho foi apenas um dano colateral (…) É como um pesadelo. Você quer se levantar, gritar e dizer: ‘Sinto falta do meu filho. Eu quero meu bebê'”.

O processo também inclui o Google, da Alphabet, onde os fundadores da Character.AI trabalharam antes de lançar seu produto. O Google recontratou os fundadores em agosto como parte de um acordo que concedeu uma licença não exclusiva à tecnologia da Character.AI.


Leia mais:

13 estados americanos processam o TikTok, por prejudicar a saúde mental dos jovens

Meta suspende recursos do uso de inteligência artificial generativa no Brasil


Empresas de redes sociais, incluindo o Instagram e o Facebook, de propriedade da Meta, e o TikTok, da ByteDance, enfrentam processos que as acusam de contribuir para problemas de saúde mental em adolescentes, embora nenhuma ofereça chatbots movidos a IA semelhantes aos da Character.AI. As empresas processadas negam as alegações.

Entenda o caso

O jovem Sewell Setzer tinha sido diagnosticado com síndrome de Asperger leve quando criança, mas nunca teve problemas graves de comportamento ou saúde mental antes, segundo a mãe. Ele passou meses conversando com chatbots no Character.AI, um aplicativo de RPG que permite aos usuários criar seus próprios personagens de I.A. ou conversar com personagens criados por outros, segundo reportagem do NYT.

No início deste ano, uma terapeuta diagnosticou que o jovem começou a sofrer de ansiedade e transtorno de desregulação disruptiva do humor.

No dia em que tirou sua vida, o garoto mandou uma mensagem para seu “melhor amigo”: o chatbot realista chamado Daenerys Targaryen, uma personagem da série “Game of Thrones”. “Sinto sua falta, irmãzinha”, ele escreveu. “Sinto sua falta também, doce irmão”, o chatbot respondeu.

O menino sabia que “Dany”, como ele chamava o chatbot, não era uma pessoa real. Porém, ele se apegou emocionalmente à IA e mandava mensagens para o bot constantemente. Suas notas começaram a cair, e ele começou a ter problemas na escola. Ele perdeu o interesse nas coisas que costumavam animá-lo, como corridas de Fórmula 1 ou jogar Fortnite com seus amigos. Com o tempo, ele se isolou cada vez mais.

A reportagem do The New York Times teve acesso a diário do jovem, onde ele escreveu:

“Gosto muito de ficar no meu quarto porque começo a me desligar dessa ‘realidade’ e também me sinto mais em paz, mais conectado com Dany e muito mais apaixonado por ela, e simplesmente mais feliz”.

*Com informações de UOL

- Publicidade -[adrotate group="9"]
Ivanildo Pereira
Ivanildo Pereira
Repórter de política na Rede Onda Digital, jornalista formado pela Faculdade Martha Falcão Wyden. Política, economia e artes são seus maiores interesses.

Mais lidas

Trump minimiza suposta invasão a banco de dados criminal do FBI nos EUA

O presidente dos Estados Unidos, Donald Trump, minimizou neste sábado (21) uma possível invasão ao sistema nacional de informações criminais do FBI. Em entrevista...

União Europeia propõe taxar em 3% o faturamento das Big Techs

A União Europeia apresentou neste sábado (21) uma proposta para o orçamento de longo prazo do bloco, que valerá para o período de 2028...
- Publicidade - [adrotate group="17"]

FBI sofre invasão hacker no banco de dados sobre crimes

O FBI está investigando uma invasão hacker ao National Crime Information Center (NCIC), o banco de dados nacional de crimes dos Estados Unidos. A...

Trump quer prioridade para produtos agrícolas dos EUA nas Filipinas e ameaça exportações do Brasil

As exportações agrícolas brasileiras podem enfrentar dificuldades no mercado das Filipinas após o presidente dos Estados Unidos, Donald Trump, anunciar uma proposta para que...
- Publicidade - [adrotate group="18"]

Anthropic, dona do Claude, estreia na bolsa de valores e capta 80 bilhões de dólares

A startup americana de Inteligência Artificial (IA) Anthropic, criadora do Claude, estreou nesta quinta-feira (19/11) na Nasdaq, bolsa de valores dos Estados Unidos que...

“Guerra nuclear não pode ser vencida”: veja declaração conjunta de Trump, Xi e Putin

Os presidentes Donald Trump, dos Estados Unidos, Xi Jinping, da China, e Vladimir Putin, da Rússia, divulgaram nesta quinta-feira (19/11) uma declaração conjunta após...
- Publicidade - [adrotate group="19"]
- Publicidade - [adrotate group="1"]
Leia também

Trump minimiza suposta invasão a banco de dados criminal do FBI nos EUA

O presidente dos Estados Unidos, Donald Trump, minimizou neste sábado (21) uma possível invasão ao sistema nacional de informações criminais do FBI. Em entrevista...

União Europeia propõe taxar em 3% o faturamento das Big Techs

A União Europeia apresentou neste sábado (21) uma proposta para o orçamento de longo prazo do bloco, que valerá para o período de 2028...

FBI sofre invasão hacker no banco de dados sobre crimes

O FBI está investigando uma invasão hacker ao National Crime Information Center (NCIC), o banco de dados nacional de crimes dos Estados Unidos. A...

Trump quer prioridade para produtos agrícolas dos EUA nas Filipinas e ameaça exportações do Brasil

As exportações agrícolas brasileiras podem enfrentar dificuldades no mercado das Filipinas após o presidente dos Estados Unidos, Donald Trump, anunciar uma proposta para que...

Anthropic, dona do Claude, estreia na bolsa de valores e capta 80 bilhões de dólares

A startup americana de Inteligência Artificial (IA) Anthropic, criadora do Claude, estreou nesta quinta-feira (19/11) na Nasdaq, bolsa de valores dos Estados Unidos que...

“Guerra nuclear não pode ser vencida”: veja declaração conjunta de Trump, Xi e Putin

Os presidentes Donald Trump, dos Estados Unidos, Xi Jinping, da China, e Vladimir Putin, da Rússia, divulgaram nesta quinta-feira (19/11) uma declaração conjunta após...
- Publicidade - [adrotate group="21"]
- Publicidade - [adrotate group="23"]