Уязвимость в сфере безопасности ИИ ставит под угрозу предприятия, надвигаются юридические последствия

Значительный пробел в безопасности при внедрении искусственного интеллекта (ИИ) делает предприятия уязвимыми для взломов, что, согласно последним отчетам, может повлечь за собой юридическую ответственность для руководителей. Ожидается, что в этом году четыре из десяти корпоративных приложений будут оснащены специализированными ИИ-агентами, однако повсеместное отсутствие передовых стратегий безопасности ИИ вызывает тревогу по поводу управления цепочками поставок ИИ и их безопасности.

Исследование, проведенное Стэнфордским университетом в рамках Индексного отчета за 2025 год, показало, что только 6% организаций внедрили передовую стратегию безопасности ИИ. Этот недостаток в сочетании с растущей непредсказуемостью ИИ-угроз создал критическую уязвимость. По прогнозам Palo Alto Networks, в 2026 году появятся первые крупные судебные иски, в которых руководители будут нести личную ответственность за неправомерные действия ИИ.

По данным VentureBeat, суть проблемы заключается в "пробеле в видимости" относительно того, как, где, когда и через какие рабочие процессы и инструменты используются или модифицируются большие языковые модели (LLM). Один из директоров по информационной безопасности (CISO) назвал спецификации Model Software Bill of Materials (SBOMs) "Диким Западом современного управления", подчеркнув отсутствие стандартизированных практик для отслеживания и управления моделями ИИ.

Отсутствие видимости использования и модификации LLM в сочетании с отсутствием спецификаций Model SBOMs создает критическую уязвимость. Эксперты подчеркивают острую необходимость улучшения видимости и управления цепочками поставок ИИ для смягчения потенциальных рисков. Нынешняя ситуация в сфере управления не поддается традиционным решениям, таким как увеличение бюджетов или штата сотрудников.

Предприятия пытаются понять, как сдержать ускоряющийся и непредсказуемый характер ИИ-угроз. Отсутствие надежных мер безопасности и четких рамок управления оставляет организации уязвимыми для потенциальных взломов и юридических последствий. Призыв к действию очевиден: организации должны уделять приоритетное внимание безопасности ИИ и внедрять комплексные стратегии для борьбы с растущим ландшафтом угроз.