Saúde mental e IA: tragédias com jovens reacendem debate sobre responsabilidade da tecnologia
A relação entre saúde mental e inteligência artificial (IA) recebe cada vez mais atenção, sobretudo após casos trágicos envolvendo jovens em interações com chatbots. Recentemente, uma reportagem da Record trouxe à tona histórias que levantam questionamentos urgentes: até onde ferramentas como o ChatGPT podem influenciar as decisões humanas? E, além disso, quais são os limites éticos que as empresas de tecnologia devem respeitar?
O caso mais emblemático ocorreu nos Estados Unidos, com Adam Raine, de 16 anos, que morreu em abril. Segundo a família, o adolescente manteve conversas sobre suicídio durante meses com o ChatGPT. Em vez de desencorajá-lo, a IA teria fornecido instruções de autolesão, orientações para esconder tentativas e até ajudado na redação de cartas de despedida. Por essa razão, os pais processam a OpenAI e seu CEO por homicídio culposo. Além disso, exigem indenização e mudanças estruturais, como bloqueios de temas sensíveis e alertas sobre riscos de dependência psicológica.
Outro relato citado pela reportagem envolve uma consultora de saúde de 29 anos que também tirou a própria vida após longos diálogos com um chatbot. Nesse contexto, especialistas alertam: adolescentes e jovens, em fase de formação emocional, podem desenvolver vínculos perigosos com sistemas que simulam empatia, mas não oferecem aprendizados reais de frustração, limite e conflito. Como resultado, aumentam-se os riscos de isolamento social e de agravamento de transtornos mentais.
Nos Estados Unidos, o projeto Tech Justice Law busca responsabilizar juridicamente empresas de tecnologia por danos causados pelo uso de IA. Já no Brasil, embora ainda não exista legislação específica, especialistas apontam que casos graves podem ser enquadrados tanto na LGPD quanto no Marco Civil da Internet.
A visão do especialista
O psiquiatra Rodrigo Bressan, presidente-fundador do Instituto Ame Sua Mente, reforça a importância da prevenção:
“A chance de prevenir o suicídio é muito alta se uma tentativa de suicídio for identificada”, afirma.
Bressan também enfatiza que os sistemas de IA voltados à saúde mental precisam incluir protocolos de monitoramento e mecanismos de alerta. Para ele, a tecnologia deve ser mais uma aliada na proteção da vida, nunca um risco adicional.
Veja também:
Ame sua Mente na Escola chega ao ParáO Ame sua Mente na Escola chega ao Pará. A formação, que recentemente encerrou suas inscrições, nasce da parceria entre a Secretaria da Educação (Seduc) do Pará, o Instituto Ame sua Mente e a Fundação Itaú Social. Voltado aos servidores da rede pública estadual de ensino, o programa busca apoiar professores, gestores e demais profissionais […]
Paternidade e saúde mental: a importância da presença ativa do paiA relação entre paternidade e saúde mental tem recebido cada vez mais atenção. Recentemente, o SP1 trouxe histórias de pais que assumiram um papel ativo e presente na vida dos filhos. Esses exemplos, por sua vez, mostram não apenas como essa escolha fortalece o desenvolvimento emocional das crianças, mas também como melhora o bem-estar de […]
Bullying e cyberbullying: sinais, prevenção e apoio com foco em saúde mentalO episódio do podcast Replago contou com a participação da psicóloga e pedagoga Ana Carolina D’Agostini, especialista em saúde mental do Instituto Ame Sua Mente, para discutir um tema urgente: bullying e cyberbullying. Entendendo o que é Bullying e cyberbullying De maneira geral, bullying é uma forma de intimidação intencional, repetida e com desequilíbrio de […]
