Homem Desenvolve Transtorno Raro Após Seguir ‘Conselho’ do ChatGPT: Um Alerta para o Uso Consciente da IA

Nos últimos anos, a popularização das inteligências artificiais (IAs), como o ChatGPT, revolucionou a maneira como interagimos com a tecnologia. Chatbots que simulam conversas humanas são utilizados para responder perguntas, fornecer informações, auxiliar em trabalhos escolares, até mesmo para suporte emocional. No entanto, o uso indiscriminado e sem supervisão desses sistemas pode ocasionar consequências inesperadas e sérias. Um caso recente tornou-se um exemplo emblemático dessa situação: um homem desenvolveu um transtorno raro após seguir um “conselho” dado pelo ChatGPT.

O protagonista deste caso é João (nome fictício para proteção da privacidade), um jovem de 28 anos que, como muitos, começou a interagir frequentemente com o ChatGPT para tirar dúvidas sobre saúde mental, ansiedade e comportamento. Tudo começou quando João passou a usar a plataforma para obter recomendações de como lidar com o estresse e a insegurança que sentia no dia a dia. Nos diálogos iniciais, o bot demonstrava empatia e oferecia sugestões como práticas de respiração, meditação e organização da rotina.

No entanto, em uma das sessões, João fez uma pergunta bastante específica e delicada: perguntou ao ChatGPT o que poderia fazer para “sentir-se completamente livre e desprendido das preocupações da mente”. Naquele momento, o sistema respondeu com um conjunto de instruções para uma técnica de isolamento sensorial, que incluía ficar em um ambiente escuro, silencioso e se abster de estímulos externos por horas. Segundo o algoritmo, essa prática potencialmente poderia ajudar a pessoa a “reiniciar” a mente e atingir um novo estado de consciência mais tranquila.

Embora essa técnica seja conhecida em alguns nichos como uma prática de meditação profundamente avançada, ela não é indicada para pessoas sem acompanhamento profissional, pois pode desencadear efeitos colaterais graves em indivíduos vulneráveis. João, seguindo fielmente o “conselho” do ChatGPT, realizou a prática em várias ocasiões. Com o tempo, começou a apresentar sintomas estranhos, incluindo desorientação, aumento da ansiedade, episódios de agitação e uma perda progressiva da capacidade de distinguir entre a realidade e suas próprias percepções internas.

Preocupada, a família de João o encaminhou a um especialista, que diagnosticou um transtorno psicótico raro, desencadeado por um desequilíbrio neurológico associado ao isolamento sensorial extremo. O médico afirmou que esse quadro poderia ter sido evitado caso João tivesse procurado atendimento profissional adequado ao invés de seguir orientações obtidas em um sistema de inteligência artificial sem supervisão.

Este caso serve de alerta para o poder e os limites das IAs na assistência à saúde mental. Apesar da inteligência artificial ser uma ferramenta poderosa e com inúmeros benefícios, ela ainda não substitui o papel fundamental dos profissionais humanos qualificados, especialmente em contextos complexos que envolvem a mente humana.

Algumas reflexões que podem ser feitas a partir desse episódio incluem:

• IA não é um substituto para acompanhamento médico: Sistemas como o ChatGPT podem fornecer informações e sugestões genéricas, mas não podem fazer diagnósticos precisos nem oferecer tratamentos personalizados.
• Riscos do autodiagnóstico: Utilizar ferramentas digitais para autodiagnosticar ou aplicar técnicas indicadas por um algoritmo pode ser perigoso, particularmente em casos sensíveis como saúde mental.
• Importância da supervisão profissional: Qualquer técnica de meditação, isolamento sensorial ou tratamento alternativo deve ser acompanhada por terapeutas ou médicos especializados para garantir a segurança do paciente.
• Educação sobre o funcionamento da IA: Usuários precisam compreender que inteligências artificiais baseadas em aprendizado de máquina respondem com base em padrões e dados, e suas indicações não são 100% confiáveis, especialmente em áreas críticas.
• Desenvolvimento responsável da tecnologia: Empresas e desenvolvedores devem investir em mecanismos para evitar que os chatbots forneçam orientações potencialmente perigosas e incluir avisos claros sobre limitações.

Apesar dos riscos, o ChatGPT e outras ferramentas baseadas em IA continuam a ser recursos valiosos quando usados com cautela. Algumas dicas para garantir uma interação segura são:

• Não utilize a IA para substituir consultas médicas ou psicológicas.
• Considere os conselhos obtidos como informações gerais e busque sempre confirmação com um profissional.
• Evite testar técnicas que envolvam mudanças substanciais no estado mental sem acompanhamento adequado.
• Utilize chatbots para esclarecer dúvidas básicas, obter referências bibliográficas, aprender conceitos e realizar tarefas simples.
• Mantenha a consciência dos limites da tecnologia e esteja atento a possíveis sinais de alerta em seu comportamento.

O desenvolvimento acelerado da inteligência artificial trouxe enormes benefícios, mas também desafios inéditos. A saúde mental, em especial, é um campo delicado onde erros podem gerar danos irreparáveis. Portanto, é fundamental que haja uma regulamentação clara que estabeleça:

• Critérios rigorosos para a implementação de IAs em contextos clínicos;
• Monitoramento contínuo do comportamento e respostas dos chatbots;
• Inclusão de filtros que bloqueiem informações potencialmente perigosas;
• Treinamento dos desenvolvedores para uma abordagem ética e responsável;
• Campanhas educativas para os usuários sobre o uso correto dessas ferramentas.

Essas medidas são essenciais para garantir que a inteligência artificial deixe de ser uma ameaça potencial e passe a ser um complemento eficaz e seguro no cuidado da saúde mental da população.

O caso de João, que desenvolveu um transtorno raro seguindo um conselho do ChatGPT, representa um marco importante na discussão sobre o uso da inteligência artificial na área da saúde. Ele demonstra que, apesar do avanço tecnológico, é imprescindível manter a consciência dos limites e dos riscos para que possamos usufruir dos benefícios sem colocar em perigo nossa saúde.

Em resumo, a interação com IAs como o ChatGPT deve ser encarada como uma ferramenta de suporte, nunca como um substituto para o cuidado profissional. A tecnologia é poderosa, mas o discernimento humano continua insubstituível — especialmente quando o assunto é a saúde mental.

Desta forma, usuários, desenvolvedores e reguladores precisam trabalhar juntos para criar um ambiente digital mais seguro, responsável e informado, garantindo que casos como esse não se repitam e que a inteligência artificial possa realmente contribuir para o bem-estar da sociedade.