Os médicos acham que a IA tem um lugar na saúde – mas talvez não como um chatbot

Dra. Sina Bari, cirurgiã e líder de saúde em IA na empresa de dados Imersãoviu em primeira mão como o ChatGPT pode desviar os pacientes com conselhos médicos incorretos.

“Recentemente, recebi um paciente e, quando recomendei um medicamento, ele imprimiu um diálogo no ChatGPT que dizia que esse medicamento tem 45% de chance de embolia pulmonar”, disse o Dr. Bari ao TechCrunch.

Quando o Dr. Bari investigou mais profundamente, descobriu que a estatística provinha de um artigo sobre o impacto desse medicamento num subgrupo de nicho de pessoas com tuberculose, o que não se aplicava ao seu paciente.

E, no entanto, quando a OpenAI anunciou seu chatbot ChatGPT Health dedicado na semana passada, o Dr. Bari sentiu mais entusiasmo do que preocupação.

O ChatGPT Health, que será lançado nas próximas semanas, permite que os usuários conversem com o chatbot sobre sua saúde em um ambiente mais privado, onde suas mensagens não serão usadas como dados de treinamento para o modelo de IA subjacente.

“Acho ótimo”, disse Bari. “É algo que já está acontecendo, então formalizá-lo de modo a proteger as informações dos pacientes e colocar algumas salvaguardas em torno disso (…) tornará o uso ainda mais poderoso para os pacientes.”

Os usuários podem obter orientações mais personalizadas do ChatGPT Health enviando seus registros médicos e sincronizando com aplicativos como Apple Health e MyFitnessPal. Para os que se preocupam com a segurança, isto levanta sinais de alerta imediatos.

“De repente, há transferência de dados médicos de organizações compatíveis com HIPAA para fornecedores não compatíveis com HIPAA”, disse Itai Schwartz, cofundador da empresa de prevenção contra perda de dados MIND, ao TechCrunch. “Portanto, estou curioso para ver como os reguladores abordariam isso.”

Mas, na visão de alguns profissionais do setor, o gato já saiu do saco. Agora, em vez de pesquisar sintomas de resfriado no Google, as pessoas estão conversando com chatbots de IA – acabou 230 milhões de pessoas já conversam com o ChatGPT sobre sua saúde toda semana.

“Este foi um dos maiores casos de uso do ChatGPT”, disse Andrew Brackin, sócio da Gradient que investe em tecnologia de saúde, ao TechCrunch. “Portanto, faz muito sentido que eles queiram construir uma versão mais privada, segura e otimizada do ChatGPT para essas questões de saúde.”

Os chatbots de IA têm um problema persistente com alucinações, uma questão particularmente delicada na área da saúde. De acordo com Vectara Modelo de avaliação de consistência factualo GPT-5 da OpenAI é mais sujeito a alucinações do que muitos modelos do Google e da Anthropic. Mas as empresas de IA veem potencial para corrigir ineficiências no espaço da saúde (a Anthropic também anunciou um produto de saúde esta semana).

Nigam Shah, professor de medicina em Stanford e cientista-chefe de dados da Stanford Health Care, a incapacidade dos pacientes americanos de acessar cuidados é mais urgente do que a ameaça de o ChatGPT dispensar conselhos inadequados.

“Neste momento, você vai a qualquer sistema de saúde e deseja consultar o médico de atenção primária – o tempo de espera será de três a seis meses”, disse o Dr. “Se a sua escolha é esperar seis meses por um médico de verdade ou conversar com alguém que não é médico, mas que pode fazer algumas coisas por você, o que você escolheria?”

Shah acredita que um caminho mais claro para introduzir a IA nos sistemas de saúde passa pelo lado do fornecedor, e não pelo lado do paciente.

As revistas médicas têm muitas vezes relatado que as tarefas administrativas podem consumir cerca de metade do tempo de um médico de cuidados primários, o que reduz o número de pacientes que podem atender num determinado dia. Se esse tipo de trabalho pudesse ser automatizado, os médicos poderiam atender mais pacientes, talvez reduzindo a necessidade de as pessoas usarem ferramentas como o ChatGPT Health sem a contribuição adicional de um médico real.

Dr. Shah lidera uma equipe em Stanford que está desenvolvendo Bate-papoEHRum software integrado ao sistema de registro eletrônico de saúde (EHR), permitindo que os médicos interajam com os registros médicos do paciente de maneira mais simplificada e eficiente.

“Tornar o prontuário médico eletrônico mais fácil de usar significa que os médicos podem gastar menos tempo vasculhando cada canto dele em busca das informações de que precisam”, disse a Dra. Sneha Jain, uma das primeiras testadoras do ChatEHR, em um Stanford Medicine artigo. “O ChatEHR pode ajudá-los a obter essas informações antecipadamente para que possam dedicar tempo ao que é importante: conversar com os pacientes e descobrir o que está acontecendo.”

A Anthropic também está trabalhando em produtos de IA que podem ser usados ​​pelos médicos e seguradoras, em vez de apenas pelo chatbot Claude, voltado ao público. Esta semana, a Anthropic anunciou Claude for Healthcare explicando como ele poderia ser usado para reduzir o tempo gasto em tarefas administrativas tediosas, como o envio de solicitações de autorização prévia a seguradoras.

“Alguns de vocês veem centenas, milhares desses casos de autorização prévia por semana”, disse o CPO da Anthropic, Mike Krieger, em uma apresentação recente no JP Morgan’s Conferência de Saúde. “Então imagine cortar vinte, trinta minutos de cada um deles – é uma economia de tempo dramática.”

À medida que a IA e a medicina se tornam mais interligadas, há uma tensão inescapável entre os dois mundos – o principal incentivo de um médico é ajudar os seus pacientes, enquanto as empresas tecnológicas são, em última análise, responsáveis ​​perante os seus acionistas, mesmo que as suas intenções sejam nobres.

“Acho que a tensão é importante”, disse Bari. “Os pacientes confiam em nós para sermos cínicos e conservadores para protegê-los.”