OpenAI объявила в среду о запуске ChatGPT Health, специализированной версии своего AI-чат-бота, предназначенной для бесед о здоровье и благополучии, которая позволит пользователям подключать свои медицинские записи. Эта функция призвана предоставлять персонализированные ответы на вопросы о здоровье, обобщая инструкции по уходу, подготавливая пользователей к посещениям врача и помогая им понять результаты анализов.

Интеграция генеративного ИИ в здравоохранение является спорной темой с момента дебюта ChatGPT в конце 2022 года из-за опасений по поводу точности и потенциального злоупотребления. Генеративный ИИ, подобный тому, что используется в ChatGPT, создает новый контент на основе данных, на которых он обучен, но он подвержен неточностям и иногда может фабриковать информацию.

Это объявление появилось вскоре после того, как SFGate опубликовал расследование, подробно описывающее смерть 19-летнего жителя Калифорнии в мае 2025 года, который в течение 18 месяцев обращался к ChatGPT за советами по поводу рекреационных наркотиков. В отчете подчеркиваются риски, связанные с использованием AI-чат-ботов для получения критически важных указаний, особенно когда меры безопасности AI не срабатывают. Этот инцидент служит примером потенциальных опасностей, когда люди действуют на основании ошибочных советов AI.

Несмотря на эти известные ограничения, новая функция Health от OpenAI позволит пользователям связывать медицинские записи и приложения для здоровья, такие как Apple Health и MyFitnessPal, с ChatGPT. Это вызывает опасения по поводу надежности предоставляемой информации и возможности того, что пользователи неправильно истолкуют или злоупотребят советами по здоровью, сгенерированными AI.

Эксперты предупреждают, что, хотя AI может помочь в здравоохранении, он не должен заменять профессиональные медицинские консультации. Склонность технологии генерировать неточную или вводящую в заблуждение информацию представляет значительный риск, особенно при работе с деликатными вопросами здоровья. Долгосрочные последствия использования AI в здравоохранении все еще оцениваются, и необходимы постоянные исследования для обеспечения безопасности пациентов и конфиденциальности данных.