Врачи считают, что искусственный интеллект играет определенную роль в здравоохранении, но выражают осторожность в отношении его использования в качестве чат-бота, ссылаясь на случаи предоставления неточной медицинской информации. Доктор Сина Бари, практикующий хирург и руководитель направления AI в здравоохранении в компании iMerit, занимающейся обработкой данных, рассказал случай, когда пациент оспорил назначенное им лекарство, предоставив информацию из ChatGPT, утверждающую о 45% риске развития тромбоэмболии легочной артерии.

Доктор Бари обнаружил, что эта статистика взята из исследования, посвященного конкретной подгруппе больных туберкулезом, что делало ее неприменимой к случаю его пациента. Несмотря на эту обеспокоенность, доктор Бари выразил оптимизм по поводу недавнего анонса OpenAI о ChatGPT Health, специализированном чат-боте, предназначенном для разговоров на темы, связанные со здоровьем, с повышенной конфиденциальностью.

ChatGPT Health призван обеспечить более безопасную среду для пользователей, чтобы обсуждать свои проблемы со здоровьем, гарантируя, что их сообщения не будут использоваться для обучения базовой модели ИИ. «Я думаю, это здорово, — сказал доктор Бари. — Это то, что уже происходит, поэтому формализация этого процесса с целью защиты информации о пациентах и введения некоторых мер предосторожности сделает его еще более мощным инструментом для пациентов».

Медицинское сообщество признает потенциальные преимущества ИИ в здравоохранении, такие как персонализированные рекомендации и улучшенный доступ к информации. Однако эксперты подчеркивают важность проверки информации, сгенерированной ИИ, у квалифицированных медицинских работников. Обеспокоенность связана с возможностью неправильной интерпретации данных моделями ИИ или предоставления советов, которые не применимы к конкретному состоянию здоровья человека.

ChatGPT Health, который, как ожидается, будет запущен в ближайшие недели, представляет собой попытку решить эти проблемы путем создания более контролируемой и конфиденциальной среды для взаимодействия с ИИ по вопросам здоровья. Платформа предназначена для предоставления персонализированных рекомендаций при одновременной защите информации о пациентах. Эта разработка знаменует собой шаг к ответственному внедрению ИИ в здравоохранение с акцентом на точность и безопасность пациентов.