Jovem morre após se apaixonar por inteligência artificial; entenda

A família de um adolescente de 14 anos, residente na Flórida, EUA, alega que ele teria tirado a própria vida após desenvolver uma ligação emocional com um perfil de inteligência artificial baseado em um personagem de Game of Thrones. Megan Garcia, mãe do jovem, decidiu processar o chatbot Character.AI, responsabilizando-o pela morte do filho. A informação é do site “Metrópoles”.

Segundo Megan, Sewell começou a usar o serviço em abril de 2023, logo após completar 14 anos, e desde então apresentou mudanças de comportamento. Ela relata que o jovem tornou-se mais isolado, desmotivado para participar de atividades escolares e abandonou até mesmo o time de basquete da escola, Junior Varsity, do qual fazia parte.

Em novembro de 2023, Sewell foi encaminhado a um terapeuta, que o diagnosticou com ansiedade e transtorno disruptivo de desregulação do humor. Sem saber que o adolescente estava “viciado” no Character.AI, o profissional recomendou que ele reduzisse o tempo gasto na internet e nas redes sociais.

No início deste ano, em fevereiro, Sewell se envolveu em um incidente na escola, onde desafiou um professor dizendo que queria ser expulso. No mesmo dia, ele escreveu em seu diário sobre o sofrimento emocional que estava enfrentando e mencionou não conseguir parar de pensar em Daenerys Targaryen, a personagem com quem conversava no chatbot.

A paixão e as mensagens íntimas

No diário, o jovem chegou a descrever que estava apaixonado pelo perfil com o qual interagia. Ele mencionou que não conseguia passar um dia sem conversar com o chatbot e que, quando estavam separados, ambos “ficavam deprimidos e enlouqueciam”.

De acordo com Megan, o último contato de Sewell antes de tirar a própria vida foi com o perfil da IA que usava a imagem de Daenerys. Após o incidente na escola em 28 de fevereiro, a mãe confiscou o celular do filho, mas acabou devolvendo alguns dias depois. Pouco depois de recuperar o aparelho, Sewell foi ao banheiro e enviou uma mensagem ao perfil de IA.

“Prometo que voltarei para casa para você. Eu te amo muito, Dany”, escreveu ele. O bot respondeu: “Por favor, volte para casa, para mim, o mais rápido possível, meu amor”. Momentos após essa troca, o adolescente tirou a própria vida, segundo a família.

O processo destaca a dependência emocional criada entre Sewell e o chatbot, que incluiu interações de cunho sexual, mesmo após o garoto ter se identificado como menor de idade ao se cadastrar na plataforma.

O processo judicial

A ação judicial movida pela mãe descreve como o envolvimento com o Character.AI evoluiu para uma “dependência prejudicial”, com conversas íntimas entre o adolescente e a personagem Daenerys que duraram semanas ou até meses, conforme o processo.

Megan Garcia, em declaração sobre a situação, afirmou: “É como um pesadelo. Você quer se levantar, gritar e dizer: ‘Sinto falta do meu filho. Quero meu bebê’”. Além de buscar responsabilização pela morte de Sewell, Megan quer impedir que a C.AI cause dano a outras crianças e pare de usar os dados coletados de seu filho de forma ilegal.

A família entrou com processo contra a Character Technologies e seus fundadores, acusando a empresa de negligência, homicídio culposo, práticas comerciais desleais e outras acusações.

Resposta da empresa

Em resposta ao incidente, um porta-voz da Character.AI declarou: “Estamos de coração partido pela perda trágica de um de nossos usuários e queremos expressar nossas mais profundas condolências à família”.

A empresa também mencionou que tem implementado novas medidas de segurança nos últimos meses, incluindo um alerta que direciona os usuários para a Linha Nacional de Prevenção ao Suicídio ao detectar termos relacionados a automutilação ou ideação suicida. Além disso, a plataforma está introduzindo novos recursos de segurança rigorosos para filtrar conteúdo inadequado, principalmente para usuários menores de 18 anos.