Uma paciente será indenizada após o sistema automatizado por Inteligência Artificial (IA) utilizado em uma clínica de São Paulo errar as orientações para realização de exames. A falha inviabilizou os procedimentos de endoscopia e colonoscopia, que avaliam estômago e intestino por meio de câmera, e a paciente acionou a Justiça para solicitar indenização por danos morais e materiais. A decisão foi divulgada nesta segunda-feira (23).

Na sentença do Tribunal de Justiça do Estado de São Paulo, a clínica foi condenada a reembolsar o valor gasto pela mulher na compra do medicamento errado e também no pagametno de uma cuidadora para ficar com seus filhos na data do procedimento. A clínica ainda foi condenada ao pagamentode R$ 3 mil como indenização pelo transtorno gerado. A defesa havia solicitado valor indenizatório de R$ 30 mil, mas o juiz entendeu que o transtorno não foi grave para justificar valor tão alto.

Segundo relato da autora da ação, assim que agendou os exames, ela foi informada sobre a necessidade de preparo prévio para a colonoscopia, com utilização de medicamentos e outras instruções. As informações foram fornecidas por meio de atendimento automatizado realizado pelo WhatsApp.

Nas instruções fornecidas estava o uso de um remédio específico, com horários detalhados para ingestão. A paciente adquiriu o fármaco e o ingeriu antes do exame, como foi orientado. No entanto, descobriu no momento do procedimento que as instruções estavam incorretas e que ela deveria ter ingerido um produto diferente.

Devido ao erro, os exames não foram realizados, e a autora afirma ter corrido risco dos efeitos colaterais do medicamento, que “sequer poderia ter sido indicado para a realização dos exames”.

No entendimento do juiz, a empresa é a responsável pelo sistema digital que utiliza, e precisa fornecer orientações corretas aos pacientes. Por isso, a paciente será indelizada.

Decisão traz luz a problemas com implementação de IA na área médica, diz especialista

De acordo com o advogado Victor Domingues, professor universitário especializado em aspectos do Direito e Inteligência Artificial, a decisão é uma resposta aos problemas já apresentados com implementação de IA na área médica e reforça a responsabilidade das companhias em relação ao uso de sistemas automatizados no atendimento ao público.

Segundo Domingues, o Conselho Federal de Medicina (CFM) normatizou recentemente o uso de Inteligência Artificial (IA) na medicina através de resolução recente, mas há exigências que devem ser cumpridas.

“A regra permite o uso de IA como apoio à decisão clínica, pesquisa e gestão, desde que haja supervisão humana, consentimento do paciente e a tecnologia seja validada cientificamente”, aponta.