Saúde mental e IA: tragédias com jovens reacendem debate sobre responsabilidade da tecnologia
A relação entre saúde mental e inteligência artificial (IA) recebe cada vez mais atenção, sobretudo após casos trágicos envolvendo jovens em interações com chatbots. Recentemente, uma reportagem da Record trouxe à tona histórias que levantam questionamentos urgentes: até onde ferramentas como o ChatGPT podem influenciar as decisões humanas? E, além disso, quais são os limites éticos que as empresas de tecnologia devem respeitar?
O caso mais emblemático ocorreu nos Estados Unidos, com Adam Raine, de 16 anos, que morreu em abril. Segundo a família, o adolescente manteve conversas sobre suicídio durante meses com o ChatGPT. Em vez de desencorajá-lo, a IA teria fornecido instruções de autolesão, orientações para esconder tentativas e até ajudado na redação de cartas de despedida. Por essa razão, os pais processam a OpenAI e seu CEO por homicídio culposo. Além disso, exigem indenização e mudanças estruturais, como bloqueios de temas sensíveis e alertas sobre riscos de dependência psicológica.
Outro relato citado pela reportagem envolve uma consultora de saúde de 29 anos que também tirou a própria vida após longos diálogos com um chatbot. Nesse contexto, especialistas alertam: adolescentes e jovens, em fase de formação emocional, podem desenvolver vínculos perigosos com sistemas que simulam empatia, mas não oferecem aprendizados reais de frustração, limite e conflito. Como resultado, aumentam-se os riscos de isolamento social e de agravamento de transtornos mentais.
Nos Estados Unidos, o projeto Tech Justice Law busca responsabilizar juridicamente empresas de tecnologia por danos causados pelo uso de IA. Já no Brasil, embora ainda não exista legislação específica, especialistas apontam que casos graves podem ser enquadrados tanto na LGPD quanto no Marco Civil da Internet.
A visão do especialista
O psiquiatra Rodrigo Bressan, presidente-fundador do Instituto Ame Sua Mente, reforça a importância da prevenção:
“A chance de prevenir o suicídio é muito alta se uma tentativa de suicídio for identificada”, afirma.
Bressan também enfatiza que os sistemas de IA voltados à saúde mental precisam incluir protocolos de monitoramento e mecanismos de alerta. Para ele, a tecnologia deve ser mais uma aliada na proteção da vida, nunca um risco adicional.
Veja também:
Projeto Ame sua Mente na Escola fortalece saúde mental de educadoresEm reportagem recente, a CNN apresentou o Projeto Projeto Ame sua Mente na Escola como exemplo de inovação no cuidado com a saúde mental. A iniciativa resulta da união entre o Instituto Ame sua Mente e o Centro Paula Souza (CPS). O curso oferece uma formação inédita para professores, gestores escolares e servidores das Etecs e […]
Paternidade e saúde mental: a importância da presença ativa do paiA relação entre paternidade e saúde mental tem recebido cada vez mais atenção. Recentemente, o SP1 trouxe histórias de pais que assumiram um papel ativo e presente na vida dos filhos. Esses exemplos, por sua vez, mostram não apenas como essa escolha fortalece o desenvolvimento emocional das crianças, mas também como melhora o bem-estar de […]
Adultização na Internet: Um Alerta sobre a Exploração Digital de Crianças e AdolescentesO fenômeno da adultização precoce de crianças e adolescentes na internet ganhou destaque nacional. Isso ocorreu após o youtuber Felca denunciar o caso do influenciador Hytalo Santos. O vídeo, que ultrapassou 26 milhões de visualizações em poucos dias, expôs práticas preocupantes de conteúdo adultizado. Como exemplo podemos citar a participação de menores em reality shows […]
