Internet, autrefois salué comme une force de démocratisation de l'information, est confronté à une remise en question. Imaginez un patient, inquiet au sujet de récents résultats d'analyse sanguine, se tournant vers Google pour obtenir des éclaircissements. Il tape « quelle est la plage normale pour les tests sanguins du foie » dans l'espoir d'être rassuré, pour se retrouver face à un résumé généré par l'IA qui, bien que d'apparence faisant autorité, est dangereusement incomplet. Ce scénario, récemment mis en lumière par le Guardian, a incité Google à désactiver les AI Overviews pour certaines requêtes médicales, soulevant des questions cruciales sur le rôle de l'IA dans les soins de santé et la responsabilité des géants de la technologie.

L'incident souligne une préoccupation croissante : le potentiel de l'IA à amplifier la désinformation, en particulier dans des domaines sensibles comme la santé. Les AI Overviews, conçus pour fournir des réponses et des résumés rapides, reposent sur des algorithmes entraînés sur de vastes ensembles de données. Cependant, ces ensembles de données ne sont pas toujours parfaits. Dans le cas des tests de la fonction hépatique, l'IA n'a pas tenu compte de facteurs cruciaux tels que la nationalité, le sexe, l'origine ethnique et l'âge, présentant une « plage normale » généralisée qui pourrait induire les individus en erreur en leur faisant croire que leurs résultats étaient sains alors qu'ils ne l'étaient pas.

Suite à l'enquête du Guardian, Google a rapidement supprimé les AI Overviews pour les requêtes spécifiques signalées. Un porte-parole de Google a déclaré à TechCrunch que l'entreprise travaille constamment à améliorer la qualité et la précision de ses fonctionnalités basées sur l'IA. Cependant, le jeu du chat et de la souris continue. Comme l'a découvert le Guardian, de légères variations des requêtes originales, telles que « lft reference range », pouvaient encore déclencher des résumés générés par l'IA, soulignant la difficulté de traiter le problème de manière exhaustive. Bien que ces variations ne produisent plus d'AI Overviews, l'incident révèle la difficulté inhérente à la surveillance du contenu généré par l'IA dans le vaste paysage de l'information en ligne.

Le problème ne se résume pas à des données inexactes ; il s'agit de l'autorité perçue de l'IA. Les utilisateurs font souvent confiance implicitement aux résumés générés par l'IA, en supposant qu'ils sont objectifs et complets. Cette confiance, cependant, peut être mal placée. « L'IA n'est aussi bonne que les données sur lesquelles elle est entraînée », explique le Dr Emily Carter, professeure d'éthique de l'IA à l'université de Stanford. « Si les données sont biaisées ou incomplètes, l'IA reflétera inévitablement ces biais, ce qui pourrait entraîner des conséquences néfastes. »

Les implications vont bien au-delà des tests de la fonction hépatique. L'IA est de plus en plus utilisée dans les soins de santé, du diagnostic des maladies à la personnalisation des plans de traitement. Si les avantages potentiels sont immenses, les risques sont tout aussi importants. Si les systèmes d'IA ne sont pas soigneusement conçus, validés et surveillés, ils pourraient perpétuer les disparités de santé existantes, exacerber les erreurs médicales et éroder la confiance dans le système de santé.

L'incident récent sonne comme un signal d'alarme pour l'industrie technologique et les régulateurs. Il souligne la nécessité d'une plus grande transparence, responsabilité et surveillance éthique dans le développement et le déploiement de l'IA, en particulier dans les domaines à enjeux élevés comme les soins de santé. Alors que l'IA continue d'évoluer, il est essentiel de se rappeler qu'il s'agit d'un outil, et non d'un remplacement de l'expertise humaine et de la pensée critique. La responsabilité incombe à la fois aux créateurs des systèmes d'IA et aux utilisateurs qui s'y fient pour garantir que cette technologie puissante est utilisée de manière sûre et éthique. L'avenir de l'IA dans les soins de santé dépend de notre capacité à tirer les leçons de ces erreurs et à construire des systèmes qui soient non seulement intelligents, mais aussi responsables et dignes de confiance.