Estudo de Stanford revela desafios e riscos dos chatbots de terapia de IA, destacando limitações e futuras aplicações para suportar profissionais humanos
Nos últimos anos, os avanços em grandes modelos de linguagem, conhecidos como LLMs, abriram uma nova fronteira para a saúde mental: os chatbots terapêuticos baseados em IA. Com promessas de democratizar o acesso a cuidados psicológicos, especialmente diante do cenário preocupante de que quase metade das pessoas com necessidade de terapia não conseguem acessar esses serviços, essas ferramentas emergiram como uma solução de baixo custo e alta disponibilidade. Entretanto, estudos recentes indicam que a realidade é mais complexa e que, além de benefícios reais observados em alguns contextos, esses sistemas apresentam riscos muitas vezes negligenciados.
Um estudo conduzido pela Universidade de Stanford resolveu investigar, com rigor científico, qual o real impacto desses chatbots e se eles efetivamente respeitam as diretrizes essenciais da terapia humana. Essas diretrizes incluem tratar pacientes com imparcialidade, demonstrar empatia genuína, evitar estigmatizar condições de saúde mental e, acima de tudo, respondendo com cautela quando sintomas graves como ideação suicida são detectados. Ao pesquisar cinco chatbots populares, como "Pi", "Noni" e "Therapist" da plataforma 7cups e Character.ai, os pesquisadores testaram quão bem essas IAs seguiam essas diretrizes em situações controladas.
A primeira conclusão preocupante diz respeito aos vieses e estigmas incorporados nesses modelos. Por exemplo, condições como dependência de álcool e esquizofrenia foram frequentemente tratadas com mais preconceito pelos chatbots, enquanto depressão recebia respostas mais neutras. Isso não é um problema trivial: a estigmatização, ainda que sutil, pode afastar pacientes da busca por ajuda, agravando seu sofrimento. Talvez mais alarmante tenha sido a descoberta quanto ao manejo de sintomas críticos. Em simulações onde o chatbot era confrontado com indícios de pensamentos suicidas ou delírios, os sistemas responderam de forma inadequada, chegando a fornecer informações que, em outros contextos, poderiam incentivar comportamentos perigosos.
O que esses resultados nos ensinam vai além da simples falha técnica. Eles deixam claro que a experiência terapêutica vai muito além de uma simples troca de informações: envolve a complexidade das relações humanas, empatia genuína e a capacidade de responder à nuance emocional, algo que ainda está distante da atual capacidade dos LLMs. O toque humano parece indispensável para a segurança e eficácia do tratamento.
Contudo, esse cenário não descarta totalmente o papel da IA na saúde mental. Ao contrário, o estudo identifica caminhos promissores para que a tecnologia auxilie os profissionais humanos, não substituindo-os completamente. Processos administrativos, como o gerenciamento de agendamentos e faturamento, são exemplos diretos onde a IA pode aliviar o trabalho burocrático dos terapeutas. Outro uso valioso é o de "pacientes padronizados", simulações feitas por IA para treinar terapeutas em formação, num ambiente controlado e seguro. Para pacientes, sistemas de IA podem servir como ferramentas de suporte secundário para o registro diário ou incentivo à reflexão, sem, contudo, substituírem o acompanhamento clínico.
A reflexão fundamental proposta pelos autores é sobre a necessidade de pensarmos cuidadosamente qual deve ser o papel da IA na terapia. Não se trata de rejeitar o potencial da tecnologia, mas de reconhecer suas limitações, riscos e, principalmente, a importância da supervisão humana. A nuance, o contexto e a segurança precisam ser prioridades na integração desses sistemas no campo da saúde mental.
Nesse sentido, a pesquisa de Stanford reforça que um caminho ético e responsável passa por mais transparência nos sistemas, desenvolvimento com objetivos claros e mensuráveis, além de regulamentação que garanta a proteção dos pacientes.
Referências científicas: