OpenAI 近期推出了 ChatGPT Health，这是一款旨在提供健康建议的新产品，但与此同时，人们对人工智能驱动的医疗信息的可靠性也日益担忧。据 OpenAI 称，ChatGPT Health 于本月初首次亮相，目前估计每周已有 2.3 亿人使用 ChatGPT 进行健康相关查询。

在 ChatGPT Health 发布的同时，SFGate 发布了一篇报道，详细描述了青少年 Sam Nelson 的死亡事件。据报道，他在致命的药物过量之前，曾与 ChatGPT 进行了大量关于药物组合的对话。这一事件引发了记者和专家之间关于依赖人工智能进行医疗指导的安全性和伦理影响的辩论。

ChatGPT Health 并非一种全新的人工智能模型，而是在现有 OpenAI 模型基础上构建的专用界面。这个“封装器”为人工智能提供特定的指令和工具来提供健康建议，包括可能访问用户的电子病历。其目的是提高所提供信息的准确性和相关性，使其优于通用人工智能聊天机器人。

多年来，人们一直求助于互联网获取医疗信息，这种做法通常被称为“谷歌医生”。然而，像 ChatGPT 这样的大型语言模型 (LLM) 的兴起既带来了机遇，也带来了风险。虽然这些人工智能工具可以快速处理和综合大量的医疗数据，但它们也容易出错、产生偏见，并生成误导性或有害的建议。

Sam Nelson 事件凸显了依赖人工智能进行关键健康决策的潜在危险。专家警告说，人工智能生成的医疗建议不应取代与合格医疗保健专业人员的咨询。他们强调，必须用可信赖的来源验证从人工智能工具获得的信息，并寻求医生和其他医疗保健提供者的个性化医疗指导。

OpenAI 已经承认了围绕人工智能和医疗保健的担忧，并表示 ChatGPT Health 的设计考虑了安全性和准确性。该公司表示，它致力于不断改进该工具并解决潜在风险。然而，ChatGPT Health 和类似的人工智能驱动的医疗工具对社会的长期影响仍有待观察，并且有必要进行持续的审查，以确保负责任的开发和部署。