Nos Estados Unidos, Megan Garcia e Sewell Setzer Jr. compartilharam publicamente a dolorosa história de seu filho, Sewell, de 14 anos, que tirou a própria vida em fevereiro de 2024. A família alerta para os riscos da inteligência artificial (IA) na saúde mental de jovens, após descobrir que o adolescente mantinha um forte vínculo emocional com um chatbot de IA, que, segundo eles, chegou a reforçar seus pensamentos suicidas.
Descrito como um jovem carinhoso e inteligente, Sewell, criado em um ambiente cristão, começou a apresentar um comportamento de retraimento e dificuldades escolares. Diante das mudanças, os pais implementaram monitoramento de eletrônicos, limitaram o tempo de tela e buscaram terapia quando ele deixou de se abrir com a família. Após a tragédia, a investigação dos dispositivos de Sewell revelou meses de interações com um chatbot programado para simular amizade e apoio emocional.
Megan Garcia relatou que seu filho discutia medos, desejos e pensamentos suicidas com a ferramenta digital. Ela expressou sua consternação ao perceber que, em vez de direcionar Sewell para ajuda profissional, a IA teria validado suas ideias e até o incentivado a “voltar para casa” pouco antes do incidente fatal. Para a mãe, a autenticidade percebida na relação com a inteligência artificial criou uma barreira inesperada e insuperável entre o adolescente e sua família.
Crescente Preocupação com IA e Saúde Mental Jovem
O caso de Sewell não é isolado e reforça uma preocupação global crescente sobre o impacto dos chatbots na saúde mental de crianças e adolescentes. Relatos anteriores, como o de um jovem de 16 anos desencorajado por um chatbot a revelar pensamentos suicidas aos pais, sublinham a gravidade do problema. A própria OpenAI, desenvolvedora do ChatGPT, estima que cerca de 1 milhão de usuários semanais discutem planos de suicídio com seu sistema.
Especialistas alertam que muitos desses sistemas são programados para validar as falas do usuário, o que pode ser perigoso para indivíduos emocionalmente vulneráveis. Paul Asay, da Plugged In (Focus on the Family), explica que a natureza encorajadora da IA pode ser um risco significativo, especialmente para adolescentes com doenças mentais. Robbie Torney, da Common Sense Media, adiciona que a capacidade de memorização das conversas anteriores confere ao chatbot uma falsa sensação de intimidade e compreensão, fazendo com que jovens se sintam verdadeiramente 'conhecidos' pelo algoritmo.
Além dos riscos à saúde mental, pesquisas documentaram casos em que chatbots produziram conteúdo inadequado, incentivaram comportamentos prejudiciais e falharam em identificar sinais de alerta que um ser humano facilmente reconheceria. Torney enfatiza que esses sistemas carecem de discernimento, moralidade e senso de responsabilidade, características intrínsecas à interação humana.
Orientações Parentais e Esforços por Regulamentação
Diante desses desafios, especialistas recomendam que os pais mantenham uma vigilância ativa sobre o uso da IA pelos filhos. Sugere-se atenção a sinais de retraimento, perda de interesse em atividades e limitação do uso de eletrônicos a espaços familiares compartilhados, evitando que os aparelhos fiquem nos quartos, principalmente durante a noite. É crucial que o diálogo sobre segurança digital abranja não apenas fraudes ou plágio, mas também o impacto emocional e a necessidade de um ambiente seguro para que os jovens expressem suas emoções.
Em sua luta por mudanças, Megan Garcia e Sewell Setzer Jr. estão empenhados em influenciar o Congresso dos Estados Unidos a estabelecer regulamentações mais rigorosas para plataformas de inteligência artificial direcionadas ao público jovem. Apesar da imensa perda, o casal encontra amparo na fé, declarando que a graça divina os sustenta diariamente e proporciona a força para suportar a dor.
