Médicos acreditam que a inteligência artificial tem um papel na área da saúde, mas expressam cautela em relação ao seu uso como chatbot, citando casos de aconselhamento médico impreciso. O Dr. Sina Bari, cirurgião e líder de IA na área da saúde na empresa de dados iMerit, relatou uma experiência em que um paciente questionou um medicamento que ele prescreveu, apresentando informações do ChatGPT alegando um risco de 45% de embolia pulmonar.

O Dr. Bari descobriu que a estatística se originou de um estudo focado em um subgrupo específico de pacientes com tuberculose, tornando-a irrelevante para o caso de seu paciente. Apesar dessa preocupação, o Dr. Bari expressou otimismo sobre o recente anúncio da OpenAI do ChatGPT Health, um chatbot dedicado, projetado para conversas relacionadas à saúde com privacidade aprimorada.

O ChatGPT Health visa fornecer um ambiente mais seguro para os usuários discutirem suas preocupações com a saúde, garantindo que suas mensagens não sejam usadas para treinar o modelo de IA subjacente. "Acho ótimo", disse o Dr. Bari. "É algo que já está acontecendo, então formalizar para proteger as informações do paciente e colocar algumas salvaguardas em torno disso tornará tudo ainda mais poderoso para os pacientes usarem."

A comunidade médica reconhece os benefícios potenciais da IA na área da saúde, como orientação personalizada e melhor acesso à informação. No entanto, os especialistas enfatizam a importância de verificar as informações geradas por IA com profissionais de saúde qualificados. A preocupação decorre da possibilidade de os modelos de IA interpretarem dados incorretamente ou fornecerem conselhos que não são aplicáveis à condição médica específica de um indivíduo.

O ChatGPT Health, com lançamento previsto para as próximas semanas, representa um esforço para abordar essas preocupações, criando um ambiente mais controlado e privado para interações de IA relacionadas à saúde. A plataforma foi projetada para oferecer orientação personalizada, protegendo as informações do paciente. O desenvolvimento marca um passo em direção à integração da IA na área da saúde de forma responsável, com foco na precisão e na segurança do paciente.