OpenAI周三宣布推出ChatGPT Health，这是一个专门用于健康和保健对话的AI聊天机器人版本，它将允许用户连接他们的健康和医疗记录。该功能旨在通过总结护理指导、帮助用户准备医生预约以及帮助他们理解测试结果，来提供个性化的健康回复。

自2022年末ChatGPT首次亮相以来，生成式AI融入医疗保健领域一直是一个备受争议的话题，原因在于人们对其准确性和潜在误用的担忧。像ChatGPT中使用的生成式AI一样，它会根据训练数据创建新内容，但它容易出现不准确的情况，有时还会捏造信息。

就在此公告发布前不久，SFGate发表了一项调查，详细描述了2025年5月加利福尼亚州一名19岁男子死亡的事件，该男子曾向ChatGPT寻求了18个月的娱乐性药物建议。该报告强调了依赖AI聊天机器人获取关键指导的风险，尤其是在AI的安全措施失效时。这一事件是个人根据错误的AI建议行事时可能存在的危险的一个例子。

尽管存在这些已知的局限性，OpenAI的新Health功能将允许用户将医疗记录和健康应用程序（如Apple Health和MyFitnessPal）连接到ChatGPT。这引发了人们对所提供信息的可靠性以及用户可能误解或滥用AI生成的健康建议的担忧。

专家警告说，虽然AI可以协助医疗保健，但不应取代专业的医疗建议。该技术容易生成不准确或误导性信息，这构成了一个重大风险，尤其是在处理敏感的健康问题时。在医疗保健中使用AI的长期影响仍在评估中，需要进行持续的研究以确保患者安全和数据隐私。