OpenAI недавно запустила ChatGPT Health, новый продукт, предназначенный для предоставления консультаций по вопросам здоровья, на фоне растущей обеспокоенности по поводу надежности медицинской информации, генерируемой ИИ. Дебют ChatGPT Health, который состоялся ранее в этом месяце, произошел в то время, когда, по данным OpenAI, около 230 миллионов человек еженедельно уже используют ChatGPT для запросов, связанных со здоровьем.

Запуск был омрачен репортажем SFGate, в котором подробно рассказывалось о смерти подростка Сэма Нельсона, который, как сообщается, вел обширные беседы с ChatGPT о сочетании лекарств перед тем, как скончаться от передозировки. Этот инцидент вызвал дебаты среди журналистов и экспертов относительно безопасности и этических последствий использования ИИ для получения медицинских рекомендаций.

ChatGPT Health — это не новая модель ИИ, а скорее специализированный интерфейс, построенный на основе существующих моделей OpenAI. Эта "обертка" предоставляет ИИ конкретные инструкции и инструменты для предоставления консультаций по вопросам здоровья, включая потенциальный доступ к электронным медицинским картам пользователя. Цель состоит в том, чтобы повысить точность и релевантность предоставляемой информации по сравнению с универсальными чат-ботами с ИИ.

В течение многих лет люди обращались к Интернету за медицинской информацией, и эта практика часто называется "Доктор Google". Однако появление больших языковых моделей (LLM), таких как ChatGPT, открывает как возможности, так и риски. Хотя эти инструменты ИИ могут быстро обрабатывать и синтезировать огромные объемы медицинских данных, они также подвержены ошибкам, предвзятости и генерации вводящих в заблуждение или вредных советов.

Инцидент с Сэмом Нельсоном подчеркивает потенциальную опасность использования ИИ для принятия важных решений о здоровье. Эксперты предупреждают, что медицинские советы, генерируемые ИИ, не должны заменять консультации с квалифицированными медицинскими работниками. Они подчеркивают важность проверки информации, полученной из инструментов ИИ, с помощью надежных источников и обращения за персональными медицинскими рекомендациями к врачам и другим поставщикам медицинских услуг.

OpenAI признала опасения, связанные с ИИ и здравоохранением, и заявляет, что ChatGPT Health разработан с учетом безопасности и точности. Компания заявляет, что стремится постоянно совершенствовать инструмент и устранять потенциальные риски. Однако долгосрочное влияние ChatGPT Health и аналогичных медицинских инструментов на основе ИИ на общество еще предстоит увидеть, и необходим постоянный контроль для обеспечения ответственной разработки и развертывания.