Los médicos creen que la inteligencia artificial tiene un papel en la atención médica, pero expresan cautela con respecto a su uso como chatbot, citando casos de consejos médicos inexactos. El Dr. Sina Bari, cirujano en ejercicio y líder de IA en atención médica en la empresa de datos iMerit, relató una experiencia en la que un paciente cuestionó un medicamento que había recetado, presentando información de ChatGPT que afirmaba un riesgo del 45% de embolia pulmonar.

El Dr. Bari descubrió que la estadística provenía de un estudio centrado en un subgrupo específico de pacientes con tuberculosis, lo que la hacía irrelevante para el caso de su paciente. A pesar de esta preocupación, el Dr. Bari expresó optimismo sobre el reciente anuncio de OpenAI de ChatGPT Health, un chatbot dedicado diseñado para conversaciones relacionadas con la salud con mayor privacidad.

ChatGPT Health tiene como objetivo proporcionar un entorno más seguro para que los usuarios discutan sus problemas de salud, asegurando que sus mensajes no se utilicen para entrenar el modelo de IA subyacente. "Creo que es genial", dijo el Dr. Bari. "Es algo que ya está sucediendo, por lo que formalizarlo para proteger la información del paciente y establecer algunas salvaguardias lo hará aún más poderoso para que los pacientes lo usen".

La comunidad médica reconoce los beneficios potenciales de la IA en la atención médica, como la orientación personalizada y la mejora del acceso a la información. Sin embargo, los expertos enfatizan la importancia de verificar la información generada por la IA con profesionales de la salud calificados. La preocupación surge de la posibilidad de que los modelos de IA interpreten erróneamente los datos o proporcionen consejos que no sean aplicables a la condición médica específica de un individuo.

ChatGPT Health, que se espera que se implemente en las próximas semanas, representa un esfuerzo para abordar estas preocupaciones mediante la creación de un entorno más controlado y privado para las interacciones de IA relacionadas con la salud. La plataforma está diseñada para ofrecer orientación personalizada al tiempo que protege la información del paciente. El desarrollo marca un paso hacia la integración de la IA en la atención médica de manera responsable, con un enfoque en la precisión y la seguridad del paciente.