Médicos acreditam que a inteligência artificial tem um papel a desempenhar na área da saúde, mas alguns especialistas alertam contra a dependência exclusiva de chatbots para aconselhamento médico. Dr. Sina Bari, cirurgião atuante e líder de IA em saúde na empresa de dados iMerit, compartilhou um exemplo de como o ChatGPT forneceu a um paciente informações médicas imprecisas sobre os potenciais efeitos colaterais de um medicamento.

De acordo com o Dr. Bari, o paciente apresentou uma impressão do ChatGPT alegando que o medicamento tinha 45% de chance de causar embolia pulmonar. Uma investigação mais aprofundada revelou que a estatística era originária de um estudo focado em um subgrupo específico de pacientes com tuberculose, tornando-a irrelevante para o caso do indivíduo.

Apesar dessas preocupações, o Dr. Bari expressou otimismo em relação ao recente anúncio da OpenAI sobre o ChatGPT Health, um chatbot dedicado projetado para conversas relacionadas à saúde. A nova plataforma visa oferecer aos usuários um ambiente mais privado, onde suas mensagens não são usadas para treinar o modelo de IA. "Eu acho ótimo", disse o Dr. Bari. "É algo que já está acontecendo, então formalizar isso para proteger as informações do paciente e colocar algumas salvaguardas em torno disso tornará tudo ainda mais poderoso para os pacientes usarem."

Espera-se que o ChatGPT Health seja lançado nas próximas semanas, oferecendo aos usuários orientação personalizada. O desenvolvimento ocorre em meio a um crescente interesse no potencial da IA para melhorar o acesso e a eficiência da assistência médica. No entanto, os especialistas enfatizam a importância de verificar as informações médicas geradas por IA com profissionais de saúde qualificados. O incidente envolvendo o paciente do Dr. Bari destaca os riscos potenciais de confiar em conselhos de IA não verificados, principalmente quando se trata de decisões sobre medicamentos e tratamentos. Embora a IA possa ser uma ferramenta valiosa, ela não deve substituir a experiência e o julgamento de médicos humanos.