ChatGPT como Terapeuta? Novo Estudo Aponta Sérios Riscos na Prática

Nos últimos anos, a inteligência artificial (IA) tem avançado a passos largos em diversas áreas, incluindo a saúde mental. Com o desenvolvimento de modelos sofisticados de linguagem natural, como o ChatGPT, muitas pessoas têm se perguntado: seria possível utilizar essas ferramentas como terapeutas digitais? A promessa é tentadora — acesso rápido, anônimo e barato a algum tipo de suporte emocional. No entanto, um novo estudo publicado recentemente alerta para os riscos sérios dessa prática, indicando que a utilização do ChatGPT e de sistemas similares no contexto terapêutico pode trazer mais malefícios do que benefícios.

Este artigo explora em detalhes o que o estudo apontou, os desafios éticos envolvidos, as limitações técnicas das IAs atuais e o que isso significa para quem busca ajuda psicológica. Entenda por que, embora a tecnologia seja impressionante, o exercício da terapia é muito mais complexo do que simplesmente responder mensagens com textos pré-programados.

Nos últimos anos, vimos uma expansão significativa da inteligência artificial na área da saúde mental. Aplicativos e plataformas digitais tentam preencher lacunas no atendimento psicológico, especialmente em regiões onde os recursos humanos são escassos. Ferramentas baseadas em IA têm sido usadas para triagem, acompanhamento de sintomas, monitoramento do humor e até mesmo para oferecer um suporte inicial em casos de crise.

O ChatGPT é um exemplo paradigmático dos avanços alcançados. Capaz de manter diálogos fluidos, entender emoções e fornecer respostas aparentemente empáticas, ele tem sido explorado por usuários que buscam conversas significativas para aliviar o estresse, ansiedade ou depressão. Em tese, isso poderia democratizar o acesso à saúde mental, tornando o suporte mais acessível e menos estigmatizado.

Contudo, o novo estudo — conduzido por uma equipe multidisciplinar de pesquisadores em psicologia, ética e ciência da computação — destaca riscos preocupantes ao integrar essas tecnologias como terapêutas. A pesquisa avaliou centenas de interações entre usuários e o ChatGPT simulando sessões de terapia online. Dentre as principais conclusões, destacam-se:

• Falta de personalização clínica: embora o ChatGPT consiga manter um diálogo coerente, ele não possui a capacidade de avaliar nuances clínicas complexas. Em casos de transtornos graves, suas respostas podem ser inadequadas ou potencialmente perigosas.
• Risco de falseamento de diagnósticos: o modelo tende a oferecer respostas baseadas em padrões comuns, mas isso pode levar a diagnósticos incorretos. Além disso, a ausência de análise clínica profissional impossibilita um tratamento efetivo.
• Problemas éticos relacionados à privacidade: grandes volumes de dados sensíveis são compartilhados nas conversas, e apesar das políticas de privacidade, o armazenamento e uso dessas informações levantam preocupações.
• Falta de empatia real e suporte emocional genuíno: embora o chatbot simule empatia, ele não compreende verdadeiramente os sentimentos humanos, o que pode deixar o usuário frustrado ou ainda mais vulnerável.
• Potencial agravamento do isolamento: alguns usuários podem se tornar dependentes da IA e reduzir o contato humano, importante para a recuperação em saúde mental.

Um dos pontos centrais do estudo é a impossibilidade da IA substituir o papel do terapeuta. A psicoterapia envolve mais do que respostas automatizadas; trata-se de um processo que requer escuta ativa, empatia profunda, julgamento clínico, habilidade para perceber nuances comportamentais e emocionais e, sobretudo, uma relação humana fundamentada na confiança.

Além disso, terapeutas são treinados para lidar com emergências, identificar riscos suicidas, compreender a dinâmica familiar, social e cultural do paciente, além de ajustar o tratamento conforme o progresso individual. Embora o ChatGPT possa fornecer informações e até simular um diálogo empático, ele não possui consciência, nem pode realizar intervenções clínicas essenciais para a segurança do paciente.

No campo técnico, o ChatGPT é um modelo estatístico treinado para prever a melhor resposta com base em grandes volumes de textos. Ele não “entende” o conteúdo da mesma forma que um ser humano e às vezes pode gerar informações imprecisas ou contraditórias. Essa característica pode ser prejudicial no contexto terapêutico, onde a precisão das informações e da orientação é crítica.

Além disso, problemas como hallucination (quando o modelo gera informações erradas ou inventadas) constituem uma falha grave, principalmente se o usuário estiver em situação vulnerável ou dependente desse suporte. Outro ponto crítico é a incapacidade de lidar com crises agudas, uma vez que o sistema não pode alertar profissionais reais nem direcionar uma resposta emergencial adequada.

A utilização do ChatGPT como terapeuta levanta uma série de questões éticas. A confidencialidade dos dados, a responsabilidade em caso de dano, o consentimento informado do usuário e a transparência quanto às limitações da IA são temas complexos que ainda demandam regulamentações específicas. Em muitos casos, o usuário não sabe que está se comunicando com uma máquina e pode desenvolver uma falsa percepção de suporte qualificado.

Além disso, a comercialização dessas tecnologias pode levar à exploração de populações vulneráveis, criando expectativas irreais sobre os benefícios do uso do chatbot para tratamento de problemas psiquiátricos ou psicológicos graves. O estudo reforça a necessidade urgente de regulação para proteger os direitos dos usuários e garantir padrões mínimos de segurança e eficácia.

Diante dos achados alarmantes do estudo, é fundamental que os usuários compreendam que o ChatGPT e outras IAs não são substitutos para ajuda profissional. Embora possam ser úteis como um complemento para o esclarecimento de dúvidas ou para promover reflexões iniciais, nada substitui uma avaliação clínica feita por um psicólogo ou psiquiatra qualificado.

Para profissionais da saúde, o desafio será integrar estas ferramentas ao processo terapêutico de forma ética, segura e eficaz. A IA pode ser uma aliada para monitoramento de pacientes, análise de dados e apoio administrativo, mas a decisão clínica e a relação terapêutica permanecem uma responsabilidade humana.

O estudo serve como um alerta importante para a comunidade acadêmica, indústria e sociedade em geral. A inteligência artificial, apesar de seu imenso potencial, ainda não está preparada para assumir funções tão delicadas quanto a terapia psicológica. O desenvolvimento tecnológico precisa caminhar lado a lado com cautela, ética e respeito às limitações atuais.

Em resumo, usar o ChatGPT como terapeuta não é apenas arriscado como pode ser potencialmente perigoso para a saúde mental das pessoas. A tecnologia deve ser vista como um complemento e não uma substituição do cuidado humano. A verdadeira transformação da saúde mental com IA ocorrerá quando canais seguros, regulamentados e éticos forem estabelecidos, garantindo que a inovação esteja a serviço do bem-estar e da segurança do paciente.

Por enquanto, se você ou alguém próximo está enfrentando dificuldades emocionais ou psicológicas, procure a ajuda de um profissional. A tecnologia pode ser uma ferramenta de suporte, mas o cuidado humano continua insubstituível e essencial.