Opinião de Suzana Herculano-Houzel: Por Que Não Devemos Perguntar ao ChatGPT

A inteligência artificial (IA) tem avançado em passos largos, e um dos exemplos mais conhecidos atualmente é o ChatGPT, um modelo de linguagem desenvolvido para gerar textos, responder perguntas e interagir com usuários de maneira natural. No entanto, importantes vozes do meio científico, como a neurocientista Suzana Herculano-Houzel, têm expressado cautela e críticas quanto ao uso indiscriminado dessa tecnologia. Neste artigo, exploraremos a visão de Suzana sobre o ChatGPT, seus limites, riscos e por que ela defende que não devemos simplesmente “perguntar ao ChatGPT” como se ele fosse uma fonte irrefutável de conhecimento.

Suzana Herculano-Houzel é uma neurocientista brasileira reconhecida mundialmente por suas pesquisas revolucionárias sobre o cérebro humano, especialmente por seu método inovador para contar neurônios no cérebro. Ela é uma figura destacada no cenário científico, com uma carreira sólida fundamentada em metodologia rigorosa e um olhar crítico sobre as afirmativas simplistas que circulam sobre ciência e tecnologia. Sua opinião sobre o ChatGPT reflete essa postura de responsabilidade e ceticismo saudável que deve nortear o uso da inteligência artificial.

O ChatGPT é um grande modelo de linguagem treinado com bilhões de textos disponíveis na internet. Por meio de algoritmos complexos de aprendizado de máquina, ele consegue gerar respostas surpreendentemente coerentes e contextualizadas na maioria dos casos. Isso faz com que muitas pessoas vejam nele uma ferramenta revolucionária para educação, pesquisa e comunicação.

No entanto, a tecnologia por trás do ChatGPT tem limitações claras: ele não compreende o significado do que escreve, mas sim calcula probabilidades de palavras e frases com base em dados. Logo, ele pode produzir respostas erradas, tendenciosas ou imprecisas – inclusive trazendo informações que parecem verdadeiras, mas não têm fundamento.

O ponto principal da neurocientista está ligado à natureza da informação e à forma como construímos conhecimento. Suzana destaca que perguntar ao ChatGPT é diferente de consultar uma fonte confiável, um pesquisador especializado ou uma base científica rigorosa. Isso porque:

• Falta de compreensão real: ChatGPT não "sabe" nada, ele apenas simula o conhecimento com base em padrões estatísticos.
• Risco de respostas incorretas: Mesmo que a resposta pareça plausível, pode estar errada ou desatualizada.
• Ausência de ética e contexto: O ChatGPT não tem valores morais ou senso crítico para discernir o impacto do que gera.
• Imprecisão em temas científicos complexos: Muitas vezes pode simplificar demais ou errar detalhes cruciais.

Outro aspecto mencionado por Suzana é o perigo de dependência excessiva na IA para obter respostas rápidas e supostamente corretas. Isso pode levar à perda da habilidade de pesquisa crítica, da análise profunda e da dúvida construtiva, que são essenciais para o avanço científico e o desenvolvimento humano.

Quando estudantes, profissionais ou curiosos usam o ChatGPT como única fonte de informação, correm o risco de absorver dados incompletos, equivocados ou até mesmo falsos, prejudicando seu aprendizado e sua capacidade de argumentação. A tecnologia deve ser vista como um complemento, e não como substituta do processo rigoroso de investigação e validação do conhecimento.

Apesar das críticas, Suzana reconhece que a inteligência artificial tem potencial e pode ser uma ferramenta útil se usada com consciência e responsabilidade. Algumas recomendações que emergem do seu posicionamento são:

• Verificação rigorosa das fontes: Sempre confira as informações obtidas no ChatGPT com bases científicas confiáveis e especializadas.
• Uso como ponto de partida: Utilize as respostas do ChatGPT para orientar sua pesquisa, mas aprofunde-se em textos originais, artigos científicos e referências sólidas.
• Cuidado com temas sensíveis: Questões de saúde, direito, ciência avançada e filosofia exigem consulta a especialistas e publicações reconhecidas, não respostas geradas por IA.
• Desenvolvimento do pensamento crítico: Incentive o questionamento, o confronto de ideias e a busca por múltiplas fontes.

A opinião de Suzana Herculano-Houzel nos leva a refletir sobre o equilíbrio necessário entre inovação tecnológica e responsabilidade ética e científica. A inteligência artificial, representada pelo ChatGPT, é uma ferramenta poderosa, mas que não substitui o pensamento humano, o conhecimento profundo e o rigor da ciência.

Então, da próxima vez que estiver tentado a perguntar algo ao ChatGPT como se fosse uma entidade infalível, lembre-se do alerta da neurocientista: não pergunte ao ChatGPT sem antes pensar criticamente, questionar, validar e complementar com fontes confiáveis. Somente assim poderemos tirar o melhor proveito dessa tecnologia, sem cair nas armadilhas do excesso de confiança e da desinformação.

Em suma, o conhecimento humano, a curiosidade e o rigor científico continuam insubstituíveis, e a IA deve ser vista como um aliado que precisa ser guiado pela inteligência e responsabilidade de quem a utiliza.