Les médecins estiment que l'intelligence artificielle a un rôle à jouer dans les soins de santé, mais se montrent prudents quant à son utilisation en tant que chatbot, citant des cas de conseils médicaux inexacts. Le Dr Sina Bari, chirurgien en exercice et responsable de l'IA dans le domaine de la santé chez la société de données iMerit, a raconté une expérience où un patient a contesté un médicament qu'il avait prescrit, en présentant des informations provenant de ChatGPT affirmant un risque de 45 % d'embolie pulmonaire.

Le Dr Bari a découvert que cette statistique provenait d'une étude portant sur un sous-groupe spécifique de patients atteints de tuberculose, ce qui la rendait non pertinente pour le cas de son patient. Malgré cette préoccupation, le Dr Bari s'est dit optimiste quant à l'annonce récente d'OpenAI concernant ChatGPT Health, un chatbot dédié conçu pour les conversations liées à la santé avec une confidentialité accrue.

ChatGPT Health vise à fournir un environnement plus sûr aux utilisateurs pour discuter de leurs problèmes de santé, en garantissant que leurs messages ne sont pas utilisés pour entraîner le modèle d'IA sous-jacent. « Je pense que c'est formidable », a déclaré le Dr Bari. « C'est quelque chose qui se produit déjà, donc le formaliser de manière à protéger les informations des patients et à mettre en place des garanties va le rendre d'autant plus puissant pour les patients. »

La communauté médicale reconnaît les avantages potentiels de l'IA dans les soins de santé, tels que des conseils personnalisés et un accès amélioré à l'information. Cependant, les experts soulignent l'importance de vérifier les informations générées par l'IA auprès de professionnels de la santé qualifiés. La préoccupation découle de la possibilité que les modèles d'IA interprètent mal les données ou fournissent des conseils qui ne sont pas applicables à l'état de santé spécifique d'un individu.

ChatGPT Health, dont le déploiement est prévu dans les prochaines semaines, représente un effort pour répondre à ces préoccupations en créant un environnement plus contrôlé et privé pour les interactions d'IA liées à la santé. La plateforme est conçue pour offrir des conseils personnalisés tout en protégeant les informations des patients. Ce développement marque une étape vers l'intégration responsable de l'IA dans les soins de santé, en mettant l'accent sur la précision et la sécurité des patients.