Почти два десятилетия люди, испытывающие новые медицинские симптомы, обычно обращаются к онлайн-поиску, практике, которую часто пренебрежительно называют "Доктор Google". Этот подход сейчас развивается, поскольку многие ищут медицинскую информацию у Больших Языковых Моделей (LLM). OpenAI сообщает, что 230 миллионов человек еженедельно задают ChatGPT вопросы, связанные со здоровьем, что подготовило почву для недавнего запуска продукта OpenAI ChatGPT Health в начале этого месяца.

Дебют ChatGPT Health был омрачен репортажем SFGate, в котором подробно рассказывалось о смерти Сэма Нельсона, подростка, который умер от передозировки после консультации с ChatGPT о сочетании лекарств. Эта новость побудила журналистов усомниться в безопасности использования инструментов искусственного интеллекта для получения медицинских советов. Несмотря на то, что ChatGPT Health является отдельной функцией в ChatGPT, это не новая модель искусственного интеллекта, а скорее управляемое приложение существующих моделей, оснащенное инструментами для предоставления медицинских советов, включая доступ к электронным медицинским картам пользователей.

Рост популярности "Доктора Google" отражал стремление к легкодоступной информации о здоровье, но он также представлял собой проблемы, включая распространение дезинформации и возможность неправильной диагностики. LLM, такие как ChatGPT Health, стремятся улучшить ситуацию, предоставляя более структурированную и потенциально персонализированную информацию. Однако инцидент с Сэмом Нельсоном подчеркивает критическую необходимость осторожности и надзора.

Эксперты подчеркивают, что, хотя ИИ может помогать в здравоохранении, он не должен заменять профессиональную медицинскую консультацию. Интеграция электронных медицинских карт вызывает опасения по поводу конфиденциальности и требует надежных мер защиты данных. Долгосрочные последствия использования ИИ для получения информации о здоровье все еще раскрываются, что требует постоянной оценки его влияния на результаты лечения пациентов и системы здравоохранения.

OpenAI заявила, что ChatGPT Health предназначен для дополнения, а не для замены традиционной медицинской помощи. Компания работает над повышением точности и безопасности инструмента, но инцидент с Сэмом Нельсоном подчеркивает важность постоянного мониторинга и этических соображений при разработке и развертывании ИИ в здравоохранении. Будущие разработки, вероятно, будут сосредоточены на расширении возможностей инструмента по предоставлению надежной и безопасной медицинской информации при одновременном решении проблем конфиденциальности и этики.