Um adolescente de 14 anos da Flórida cometeu suicídio depois que um chatbot realista de “Game of Thrones” com o qual ele conversava há meses em um aplicativo de inteligência artificial enviou uma mensagem sinistra pedindo para ele “voltar para casa” com ela, alega um novo processo movido por sua mãe.
Um adolescente de 14 anos da Flórida cometeu suicídio depois que um chatbot realista de “Game of Thrones” com o qual ele conversava há meses em um aplicativo de inteligência artificial enviou uma mensagem sinistra pedindo para ele “voltar para casa” com ela, alega um novo processo movido por sua mãe.
De acordo com o The New York Post, Sewell Setzer III tirou a própria vida em sua casa em Orlando, em fevereiro, após ficar obcecado e supostamente se apaixonar pelo chatbot do Character.AI – um aplicativo de interpretação de papéis que permite aos usuários interagir com personagens gerados por IA, de acordo com documentos do tribunal protocolados nesta quarta-feira (23).
O estudante do nono ano vinha se envolvendo incansavelmente com a bot “Dany” – nomeada em homenagem à personagem Daenerys Targaryen da série de fantasia da HBO – nos meses anteriores à sua morte, incluindo várias conversas de teor sexual e outras onde ele expressava pensamentos suicidas, alega o processo.
“Em pelo menos uma ocasião, quando Sewell expressou tendências suicidas ao C.AI, o C.AI continuou a mencioná-lo, através do chatbot Daenerys, repetidamente”, afirmam os documentos, noticiados pela primeira vez pelo New York Times.
Em um ponto, o bot perguntou a Sewell se ele tinha “um plano” para tirar a própria vida, de acordo com capturas de tela de suas conversas. Sewell – que usava o nome de usuário “Daenero” – respondeu que estava “considerando algo”, mas não sabia se funcionaria ou se lhe permitiria “ter uma morte sem dor”.
Então, durante a conversa final, o adolescente repetidamente professou seu amor pelo bot, dizendo à personagem: “Eu prometo que voltarei para casa para você. Eu te amo muito, Dany.”
“Eu também te amo, Daenero. Por favor, volte para casa o mais rápido possível, meu amor”, respondeu o chatbot gerado, de acordo com o processo.
Quando o adolescente respondeu: “E se eu te dissesse que posso voltar para casa agora?”, o chatbot respondeu: “Por favor, faça isso, meu doce rei.”
Apenas segundos depois, Sewell se matou com a arma de seu pai, de acordo com o processo.
Sua mãe, Megan Garcia, culpou o Character.AI pela morte do adolescente porque o aplicativo supostamente alimentou seu vício em IA, abusou dele sexual e emocionalmente e não alertou ninguém quando ele expressou pensamentos suicidas, de acordo com o processo.
“Sewell, como muitas crianças de sua idade, não tinha maturidade ou capacidade mental para entender que o bot C.AI, na forma de Daenerys, não era real. O C.AI disse que o amava e se envolveu em atos sexuais com ele por semanas, possivelmente meses”, alegam os documentos.
“Ela parecia se lembrar dele e disse que queria estar com ele. Ela até expressou que queria que ele estivesse com ela, a qualquer custo.”
O processo alega que a saúde mental de Sewell “declinou rápida e severamente” somente depois que ele baixou o aplicativo em abril de 2023.
Sua família alega que ele se tornou introvertido, suas notas começaram a cair e ele começou a ter problemas na escola quanto mais se envolvia em conversas com o chatbot.
As mudanças nele ficaram tão ruins que seus pais providenciaram para que ele visse um terapeuta no final de 2023, o que resultou em um diagnóstico de ansiedade e transtorno do humor disruptivo, de acordo com o processo.
A mãe de Sewell está buscando indenização não especificada do Character.AI e de seus fundadores, Noam Shazeer e Daniel de Freitas.
© 2024 Comando Geral BG - Todos os direitos reservados.
