OpenAI lanzó recientemente ChatGPT Health, un nuevo producto diseñado para proporcionar consejos de salud, en medio de crecientes preocupaciones sobre la fiabilidad de la información médica impulsada por la IA. El debut de ChatGPT Health, que tuvo lugar a principios de este mes, se produce cuando se estima que 230 millones de personas cada semana ya están utilizando ChatGPT para consultas relacionadas con la salud, según OpenAI.

El lanzamiento se vio ensombrecido por un informe de SFGate que detallaba la muerte del adolescente Sam Nelson, quien, según se informa, mantuvo extensas conversaciones con ChatGPT sobre la combinación de drogas antes de sufrir una sobredosis fatal. Este incidente ha alimentado el debate entre periodistas y expertos sobre la seguridad y las implicaciones éticas de confiar en la IA para la orientación médica.

ChatGPT Health no es un nuevo modelo de IA, sino una interfaz especializada construida sobre modelos existentes de OpenAI. Este "envoltorio" proporciona a la IA instrucciones y herramientas específicas para ofrecer consejos de salud, incluido el acceso potencial al historial médico electrónico de un usuario. El objetivo es mejorar la precisión y la relevancia de la información proporcionada en comparación con los chatbots de IA de propósito general.

Durante años, las personas han recurrido a Internet para obtener información médica, una práctica a la que a menudo se hace referencia como "Dr. Google". Sin embargo, el auge de los modelos de lenguaje grandes (LLM) como ChatGPT presenta tanto oportunidades como riesgos. Si bien estas herramientas de IA pueden procesar y sintetizar rápidamente grandes cantidades de datos médicos, también son propensas a errores, sesgos y a la generación de consejos engañosos o perjudiciales.

El incidente que involucró a Sam Nelson subraya los peligros potenciales de confiar en la IA para tomar decisiones críticas sobre la salud. Los expertos advierten que los consejos médicos generados por la IA no deben reemplazar las consultas con profesionales de la salud cualificados. Hacen hincapié en la importancia de verificar la información obtenida de las herramientas de IA con fuentes fiables y de buscar orientación médica personalizada de médicos y otros proveedores de atención médica.

OpenAI ha reconocido las preocupaciones en torno a la IA y la atención médica y afirma que ChatGPT Health está diseñado teniendo en cuenta la seguridad y la precisión. La compañía dice que está comprometida a mejorar continuamente la herramienta y abordar los riesgos potenciales. Sin embargo, el impacto a largo plazo de ChatGPT Health y herramientas médicas similares impulsadas por la IA en la sociedad está aún por verse, y se justifica un escrutinio continuo para garantizar un desarrollo y una implementación responsables.