Depuis près de deux décennies, les personnes présentant de nouveaux symptômes médicaux se tournent couramment vers les recherches en ligne pour obtenir des informations, une pratique souvent appelée « Dr. Google ». Cependant, le paysage évolue, car beaucoup utilisent désormais des modèles de langage volumineux (LLM) pour les demandes de renseignements liés à la santé. OpenAI rapporte que 230 millions de personnes chaque semaine posent des questions liées à la santé à ChatGPT.

Cette tendance sert de toile de fond au récent lancement de ChatGPT Health par OpenAI au début du mois. Le lancement a coïncidé avec un examen minutieux suite à un reportage de SFGate sur la mort de l'adolescent Sam Nelson, décédé d'une overdose après avoir consulté ChatGPT sur des combinaisons de médicaments. Cet incident a soulevé des inquiétudes chez les journalistes quant à la sécurité de l'utilisation d'outils d'IA pour obtenir des conseils médicaux.

ChatGPT Health, bien qu'accessible via un onglet distinct, n'est pas un nouveau modèle d'IA. Il fonctionne plutôt comme une interface qui dote un modèle OpenAI existant de directives et d'outils spécifiques conçus pour fournir des conseils de santé. Ces outils comprennent des capacités d'accès aux dossiers médicaux électroniques d'un utilisateur.

L'essor de « Dr. Google » a mis en évidence le désir du public d'obtenir facilement des informations sur la santé. Cependant, l'exactitude et la fiabilité des résultats de recherche en ligne variaient souvent, ce qui pouvait entraîner de la désinformation et de l'anxiété. Les LLM comme ChatGPT Health offrent la possibilité d'obtenir des réponses plus personnalisées et plus complètes, mais introduisent également de nouveaux défis.

Une préoccupation essentielle est le potentiel de biais algorithmique. Les modèles d'IA sont entraînés sur de vastes ensembles de données, et si ces ensembles de données reflètent les biais existants dans les soins de santé, l'IA peut perpétuer, voire amplifier, ces biais. Assurer l'équité et la justice dans les soins de santé basés sur l'IA est un domaine essentiel de recherche et de développement en cours.

Un autre défi consiste à garantir la confidentialité des utilisateurs et la sécurité des données. L'accès aux dossiers médicaux électroniques soulève d'importantes préoccupations en matière de confidentialité, et des mesures de protection robustes sont nécessaires pour protéger les informations sensibles des patients contre tout accès ou utilisation abusive non autorisés.

Le développement de ChatGPT Health représente une étape importante dans l'application de l'IA aux soins de santé. Cependant, les experts soulignent l'importance d'un développement et d'un déploiement responsables, en mettant l'accent sur l'exactitude, l'équité, la confidentialité et la transparence. À mesure que l'IA continue d'évoluer, une évaluation et un perfectionnement continus seront essentiels pour garantir que ces outils servent de ressources précieuses tant pour les patients que pour les professionnels de la santé.