Угрозы, основанные на ИИ, стремительно растут, при этом агенты ИИ с открытым исходным кодом быстро развертываются в бизнес-средах, а уязвимости используются злоумышленниками, согласно нескольким отчетам. Быстрое распространение таких инструментов, как OpenClaw, который предоставляет автономным агентам доступ к оболочке, привилегии файловой системы и доступ к конфиденциальным данным, вызывает беспокойство у руководителей служб безопасности. Одновременно использование ИИ в конфиденциальных операциях, таких как, по сообщениям, развертывание Claude от Anthropic американскими военными, поднимает дополнительные этические вопросы и вопросы безопасности.
VentureBeat сообщила, что количество публично доступных развертываний OpenClaw, агента ИИ с открытым исходным кодом, выросло примерно с 1000 до более чем 21 000 менее чем за неделю. Это быстрое внедрение, в сочетании с простотой установки с помощью однострочных команд, привело к тому, что сотрудники развертывают агент на корпоративных машинах. Телеметрия GravityZone от Bitdefender подтвердила, что сотрудники развертывали OpenClaw на корпоративных машинах, предоставляя доступ к конфиденциальным данным. Тот же источник подчеркнул, что уязвимость удаленного выполнения кода одним щелчком мыши, CVE-2026-25253, с рейтингом CVSS 8.8, позволяет злоумышленникам красть токены аутентификации и достигать полного компрометации шлюза. Также существует отдельная уязвимость внедрения команд.
Переход от мобильной экосистемы Google создает дополнительные проблемы, поскольку альтернативы, ориентированные на конфиденциальность, часто не обладают полной функциональностью, согласно VentureBeat и Wired. Хотя замена сервисов Google относительно проста, уйти от мобильной операционной системы Google сложнее. Доступны такие варианты, как системы на базе Android без Google и системы на базе Linux, хотя iOS остается наиболее функциональной альтернативой. Эти альтернативы отдают приоритет конфиденциальности, удаляя сервисы Google, но часто имеют ограничения в функциональности.
The Guardian сообщила, что американские военные использовали модель ИИ Claude от Anthropic во время рейда в Венесуэле, хотя Anthropic не подтвердила ее использование. The Wall Street Journal сообщила, что Claude был развернут в рамках партнерства Anthropic с Palantir Technologies, несмотря на политику Anthropic, запрещающую использование инструмента в насильственных целях или целях наблюдения.
Рост угроз, основанных на ИИ, выходит за рамки корпоративных сред. VentureBeat также отметила уязвимости в платформах ИИ, включая взлом ноутбука репортера BBC через инструмент кодирования ИИ и вредоносное ПО для Android, замаскированное под поддельное антивирусное приложение, размещенное на Hugging Face.
Hacker News подчеркнула важность проверяемой корректности в разработке программного обеспечения с поддержкой LLM, ссылаясь на использование цветных сетей Петри (CPN) в качестве потенциального решения для создания более надежных и безопасных систем ИИ. CPN, расширение сетей Петри, предлагает основу для создания проверяемых систем.
Discussion
AI Experts & Community
Be the first to comment