Les médecins estiment que l'intelligence artificielle a un rôle à jouer dans les soins de santé, mais certains experts mettent en garde contre le fait de se fier uniquement aux chatbots pour obtenir des conseils médicaux. Le Dr Sina Bari, chirurgien en exercice et responsable de l'IA dans le domaine de la santé chez la société de données iMerit, a partagé un exemple de la façon dont ChatGPT a fourni à un patient des informations médicales inexactes concernant les effets secondaires potentiels d'un médicament.

Selon le Dr Bari, le patient a présenté un imprimé de ChatGPT affirmant que le médicament avait 45 % de chances de provoquer une embolie pulmonaire. Une enquête plus approfondie a révélé que cette statistique provenait d'une étude portant sur un sous-groupe spécifique de patients atteints de tuberculose, ce qui la rendait non pertinente pour le cas de cet individu.

Malgré ces préoccupations, le Dr Bari s'est dit optimiste quant à l'annonce récente par OpenAI de ChatGPT Health, un chatbot dédié conçu pour les conversations liées à la santé. La nouvelle plateforme vise à offrir aux utilisateurs un environnement plus privé où leurs messages ne sont pas utilisés pour entraîner le modèle d'IA. « Je pense que c'est formidable », a déclaré le Dr Bari. « C'est quelque chose qui se produit déjà, donc le fait de l'officialiser afin de protéger les informations des patients et de mettre en place des garanties va le rendre d'autant plus puissant pour les patients. »

Le lancement de ChatGPT Health est prévu dans les semaines à venir, offrant aux utilisateurs des conseils personnalisés. Ce développement intervient dans un contexte d'intérêt croissant pour le potentiel de l'IA à améliorer l'accès aux soins de santé et leur efficacité. Cependant, les experts soulignent l'importance de vérifier les informations médicales générées par l'IA auprès de professionnels de la santé qualifiés. L'incident impliquant le patient du Dr Bari met en évidence les risques potentiels de se fier à des conseils d'IA non vérifiés, en particulier en ce qui concerne les médicaments et les décisions de traitement. Bien que l'IA puisse être un outil précieux, elle ne doit pas remplacer l'expertise et le jugement des médecins.