Безопасность ИИ отстает от внедрения, делая цепочки поставок уязвимыми

Предприятия сталкиваются с растущей угрозой со стороны искусственного интеллекта, поскольку внедрение ИИ-агентов опережает меры безопасности, создавая значительные уязвимости в цепочках поставок ИИ. Согласно исследованию из Индексного отчета Стэнфордского университета за 2025 год, в то время как в этом году четыре из десяти корпоративных приложений будут включать ИИ-агентов для конкретных задач, только 6% организаций имеют передовую стратегию безопасности ИИ.

Быстрая интеграция ИИ, особенно больших языковых моделей (LLM), создала "пробел в видимости" в отношении того, как, где, когда и через какие рабочие процессы и инструменты эти модели используются или модифицируются, сообщает VentureBeat. Это отсутствие прозрачности в сочетании с отсутствием спецификаций программного обеспечения моделей (SBOM) оставляет организации уязвимыми для непредсказуемых угроз ИИ.

Palo Alto Networks прогнозирует, что в 2026 году появятся первые крупные судебные иски, привлекающие руководителей к личной ответственности за мошеннические действия ИИ, что подчеркивает необходимость улучшения управления ИИ. Ускоряющийся и непредсказуемый характер угроз ИИ означает, что традиционные подходы к управлению, такие как увеличение бюджетов или штата сотрудников, недостаточны.

Один директор по информационной безопасности (CISO) описал спецификации программного обеспечения моделей (SBOM) как "Дикий Запад управления сегодня", подчеркнув нынешнее отсутствие стандартизации и надзора в этой критической области. Эксперты подчеркивают необходимость для организаций уделять приоритетное внимание видимости цепочки поставок ИИ, чтобы смягчить потенциальные риски и избежать юридических последствий.