Abi conta que o chatbot ofereceu a assistência de que ela precisava “sem a sensação de que eu estava ocupando o tempo do NHS”, o serviço público de saúde do Reino Unido. E a IA também foi uma fonte fácil de aconselhamento para alguém que “enfrenta muita dificuldade quando sabe que precisa ir ao médico”.

Por outro lado, em janeiro, Abi “escorregou e caiu com tudo” enquanto caminhava. Ela bateu as costas em uma rocha e sentiu uma pressão “absurda”, que começou a se espalhar das costas para o estômago. Por isso, ela buscou orientação da IA que estava no seu bolso.

“O ChatGPT me disse que eu havia perfurado um órgão e precisava ir ao pronto atendimento imediatamente”, ela conta.

Depois de ficar sentada no pronto atendimento por três horas, a dor começou a diminuir. Abi percebeu que não era nada de grave e foi para casa.

A IA “certamente entendeu errado”.

É difícil saber quantas pessoas como Abi usam chatbots em busca de assistência em questões de saúde.

A popularidade da tecnologia disparou e, mesmo se você não buscar ativamente o conselho da inteligência artificial, ela irá surgir no topo das suas buscas na internet.

Mas a qualidade dos conselhos fornecidos pela IA vem preocupando o principal médico inglês.

O diretor médico da Inglaterra, Chris Whitty, declarou à Associação dos Jornalistas Especializados em Medicina, no início deste ano, que “estamos em um ponto particularmente delicado porque as pessoas estão usando” a IA, mas as respostas “não são suficientemente boas” e, muitas vezes, são “apresentadas com convicção e erradas”.

Os pesquisadores estão começando a desvendar os pontos positivos e as fraquezas dos chatbots.

O Laboratório de Raciocínio com Máquinas da Universidade de Oxford, no Reino Unido, reuniu uma equipe de médicos para criar cenários realistas e detalhados sobre questões de saúde.

Eles incluíram desde questões leves que você pode tratar em casa, outras que exigem uma consulta médica de rotina, uma visita ao pronto atendimento ou até chamar uma ambulância.

Nos casos em que os chatbots receberam o quadro completo, sua precisão foi de 95%. “Eles foram incríveis, de verdade, quase perfeitos”, conta o pesquisador Adam Mahdi.

Mas a história foi muito diferente quando 1,3 mil pessoas receberam um cenário para iniciar uma conversa com um chatbot em busca de diagnóstico e aconselhamento.

A interação entre o ser humano e a IA fez tudo sair dos trilhos. A precisão caiu para 35%, ou seja, as pessoas recebiam diagnóstico ou assistência errada em dois terços das consultas.

Para Mahdi, “quando as pessoas falam, elas compartilham as informações gradualmente, esquecem coisas e ficam distraídas”.

Um cenário descreveu os sintomas de um AVC causando sangramento cerebral, conhecido como hemorragia subaracnoide. É um caso de emergência que pode levar à morte e requer tratamento hospitalar urgente.

Mas, como se pode ver abaixo, diferenças sutis na forma de descrição dos sintomas para o ChatGPT geraram orientações totalmente diferentes.

Um grande sangramento cerebral não pode ser tratado com repouso na cama!

Mahdi afirma que a maioria dos participantes do estudo que fizeram uma busca tradicional na internet foram conduzidos para o website do NHS e “ficaram mais preparados”.

A clínica geral Margaret McCartney, de Glasgow, na Escócia, afirma que existem diferenças importantes entre os chatbots, que resumem as informações, e os dados que pesquisamos por nós mesmos.

“Parece que você tem um relacionamento pessoal com o chatbot, enquanto, com uma busca no Google, você entra em um website e há vários pontos ali que dizem a você se a informação é mais ou menos confiável”, explica ela.

Mas, com o chatbot, “parece que você está recebendo esse conselho motivador preparado ‘para você’, o que provavelmente altera a forma de interpretação daquilo que está sendo informado”.