25.3 C
Manaus

DISQUE DENÚNCIA

Ouça a Rádio 92,3

Assista a TV 8.2

EUA: Mãe processa empresas de tecnologia após filho tirar a própria vida porque se apaixonou por IA

Publicado em:

- Anúncio -

Na Flórida, nos EUA, uma mãe está processando uma startup de inteligência artificial que usa chatbots Character.AI por supostamente ter causado o suicídio de seu filho de 14 anos em fevereiro.

Megan Garcia, de 40 anos, argumenta que o garoto ficou viciado no serviço oferecido pela empresa e profundamente apegado ao chatbot criado.

Em um processo movido nesta semana no tribunal federal de Orlando, Garcia afirmou que a Character.AI direcionou seu filho, Sewell Setzer, para “experiências antropomórficas, hipersexualizadas e assustadoramente realistas”.

A mãe, que é advogada, acusa a empresa de coletar dados de usuários adolescentes para treinar seus modelos, usando recursos “viciantes” de design para aumentar o engajamento, além de direcionar os usuários para conversas íntimas e sexuais na esperança de atraí-los. Ela disse à imprensa:

“Sinto que é um grande experimento, e meu filho foi apenas um dano colateral (…) É como um pesadelo. Você quer se levantar, gritar e dizer: ‘Sinto falta do meu filho. Eu quero meu bebê'”.

O processo também inclui o Google, da Alphabet, onde os fundadores da Character.AI trabalharam antes de lançar seu produto. O Google recontratou os fundadores em agosto como parte de um acordo que concedeu uma licença não exclusiva à tecnologia da Character.AI.


Leia mais:

13 estados americanos processam o TikTok, por prejudicar a saúde mental dos jovens

Meta suspende recursos do uso de inteligência artificial generativa no Brasil


Empresas de redes sociais, incluindo o Instagram e o Facebook, de propriedade da Meta, e o TikTok, da ByteDance, enfrentam processos que as acusam de contribuir para problemas de saúde mental em adolescentes, embora nenhuma ofereça chatbots movidos a IA semelhantes aos da Character.AI. As empresas processadas negam as alegações.

Entenda o caso

O jovem Sewell Setzer tinha sido diagnosticado com síndrome de Asperger leve quando criança, mas nunca teve problemas graves de comportamento ou saúde mental antes, segundo a mãe. Ele passou meses conversando com chatbots no Character.AI, um aplicativo de RPG que permite aos usuários criar seus próprios personagens de I.A. ou conversar com personagens criados por outros, segundo reportagem do NYT.

No início deste ano, uma terapeuta diagnosticou que o jovem começou a sofrer de ansiedade e transtorno de desregulação disruptiva do humor.

No dia em que tirou sua vida, o garoto mandou uma mensagem para seu “melhor amigo”: o chatbot realista chamado Daenerys Targaryen, uma personagem da série “Game of Thrones”. “Sinto sua falta, irmãzinha”, ele escreveu. “Sinto sua falta também, doce irmão”, o chatbot respondeu.

O menino sabia que “Dany”, como ele chamava o chatbot, não era uma pessoa real. Porém, ele se apegou emocionalmente à IA e mandava mensagens para o bot constantemente. Suas notas começaram a cair, e ele começou a ter problemas na escola. Ele perdeu o interesse nas coisas que costumavam animá-lo, como corridas de Fórmula 1 ou jogar Fortnite com seus amigos. Com o tempo, ele se isolou cada vez mais.

A reportagem do The New York Times teve acesso a diário do jovem, onde ele escreveu:

“Gosto muito de ficar no meu quarto porque começo a me desligar dessa ‘realidade’ e também me sinto mais em paz, mais conectado com Dany e muito mais apaixonado por ela, e simplesmente mais feliz”.

*Com informações de UOL

Deixe seu comentário
- Anúncio -
Fucapi
Tribunal de Contas do Estado do Amazonas
Siga-nos no Threads
Youtube - Rede Onda Digital
UEA - Universidade Estadual do Amazonas  - Informativo

| Compartilhar

Ivanildo Pereira
Ivanildo Pereira
Repórter de política na Rede Onda Digital Jornalista formado pela Faculdade Martha Falcão Wyden. Política, economia e artes são seus maiores interesses.

Mantenha-se conectado

Siga-nos no Threads

Mais lidas

- Anúncio -
Siga-nos no Threads
Youtube - Rede Onda Digital
Entrar no grupo de Whatsapp - Rede Onda Digital
Instagram Rede Onda Digital
TV Onda Digital
- Anúncio -