Los médicos creen que la inteligencia artificial tiene un papel que desempeñar en la atención médica, pero algunos expertos advierten contra la dependencia exclusiva de los chatbots para obtener asesoramiento médico. El Dr. Sina Bari, cirujano en ejercicio y líder de IA en atención médica en la empresa de datos iMerit, compartió un ejemplo de cómo ChatGPT proporcionó a un paciente información médica inexacta con respecto a los posibles efectos secundarios de un medicamento.

Según el Dr. Bari, el paciente presentó una impresión de ChatGPT que afirmaba que el medicamento tenía un 45% de probabilidad de causar embolia pulmonar. Una investigación más profunda reveló que la estadística provenía de un estudio centrado en un subgrupo específico de pacientes con tuberculosis, lo que la hacía irrelevante para el caso del individuo.

A pesar de estas preocupaciones, el Dr. Bari expresó optimismo sobre el reciente anuncio de OpenAI de ChatGPT Health, un chatbot dedicado diseñado para conversaciones relacionadas con la salud. La nueva plataforma tiene como objetivo ofrecer a los usuarios un entorno más privado donde sus mensajes no se utilicen para entrenar el modelo de IA. "Creo que es genial", dijo el Dr. Bari. "Es algo que ya está sucediendo, por lo que formalizarlo para proteger la información del paciente y establecer algunas salvaguardias lo hará aún más poderoso para que los pacientes lo usen".

Se espera que ChatGPT Health se implemente en las próximas semanas, ofreciendo a los usuarios orientación personalizada. El desarrollo se produce en medio de un creciente interés en el potencial de la IA para mejorar el acceso y la eficiencia de la atención médica. Sin embargo, los expertos enfatizan la importancia de verificar la información médica generada por la IA con profesionales de la salud calificados. El incidente que involucró al paciente del Dr. Bari destaca los riesgos potenciales de confiar en consejos de IA no verificados, particularmente cuando se trata de decisiones sobre medicamentos y tratamientos. Si bien la IA puede ser una herramienta valiosa, no debe reemplazar la experiencia y el juicio de los médicos humanos.