La sécurité de l'IA à la traîne par rapport à son adoption, rendant les chaînes d'approvisionnement vulnérables

Alors que les entreprises intègrent rapidement des agents d'IA dans leurs opérations, un écart de sécurité important a émergé, rendant les chaînes d'approvisionnement de l'IA vulnérables aux violations et exposant potentiellement les dirigeants à des responsabilités juridiques. Selon un rapport de l'indice 2025 de l'Université de Stanford, seulement 6 % des organisations ont mis en place une stratégie de sécurité de l'IA avancée.

L'imprévisibilité croissante des menaces liées à l'IA, associée à un manque de visibilité sur l'utilisation et la modification des grands modèles linguistiques (LLM), crée une vulnérabilité critique. Ce manque de visibilité est encore aggravé par l'absence de listes de composants logiciels des modèles (SBOM), qu'un RSSI a décrit à VentureBeat comme le "Far West de la gouvernance".

Palo Alto Networks prévoit que 2026 verra les premiers procès majeurs tenant les dirigeants personnellement responsables des actions malveillantes de l'IA. Cette prédiction souligne le besoin urgent d'améliorer la visibilité et la gouvernance de la chaîne d'approvisionnement de l'IA.

Les approches de gouvernance actuelles ne suivent pas le rythme de l'évolution rapide des menaces liées à l'IA. Les solutions traditionnelles telles que l'augmentation des budgets ou l'ajout de personnel s'avèrent inadéquates pour relever les défis complexes posés par l'IA.

Le problème central est un "déficit de visibilité" concernant la manière, le lieu, le moment et les flux de travail et outils par lesquels les LLM sont utilisés ou modifiés, selon un reportage de VentureBeat. Sans cette visibilité, les organisations sont incapables de gérer et d'atténuer efficacement les risques associés à l'IA.

L'absence de stratégies de sécurité de l'IA complètes et l'absence de SBOM de modèles créent un environnement propice à l'exploitation. Alors que l'IA continue de s'immiscer dans les applications d'entreprise, le besoin de mesures de sécurité robustes et de cadres de gouvernance clairs devient de plus en plus critique.