A inteligência artificial transformou muitas áreas da nossa vida, mas um alerta importante vem da comunidade científica sobre os riscos quando usamos esses sistemas para fins de saúde mental. Pesquisadores da Universidade Brown descobriram que, mesmo quando instruídos a atuar como terapeutas treinados, chatbots como ChatGPT rotineiramente violam padrões éticos fundamentais da profissão. Milhões de pessoas em todo o mundo estão recorrendo a essas ferramentas para conselhos de estilo terapêutico, o que torna essa descoberta particularmente preocupante.
O estudo revelou que os modelos de linguagem grandes não possuem as nuances e compreensão contextual necessárias para lidar com questões psicológicas complexas. Esses sistemas, por mais sofisticados que pareçam, carecem de empatia genuína e da capacidade de reconhecer situações que exigem intervenção de um profissional real. Os pesquisadores destacam que o risco não está apenas em respostas imprecisas, mas na violação de protocolos de confidencialidade, consentimento informado e outros pilares éticos da terapia moderna.
No Brasil, onde o acesso a profissionais de saúde mental ainda é um desafio para muitos, essa tendência é particularmente preocupante. Com a crescente popularidade de plataformas de IA e a busca por soluções acessíveis, muitas pessoas podem estar se expondo a riscos sem ter consciência plena das limitações dessas ferramentas. Os especialistas recomendam que a IA seja usada apenas como complemento, nunca como substituto, para aconselhamento profissional.
Embora a IA tenha muito a oferecer em contextos de saúde mental—como triagem inicial ou apoio entre sessões terapêuticas—é crucial que reguladores e desenvolvedores trabalhem juntos para estabelecer protocolos claros. Os usuários devem estar cientes de que conversas com chatbots não substituem atendimento profissional genuíno, e as plataformas devem ser transparentes sobre suas limitações.