AI-агенты революционизируют работу предприятий, но вопросы управления становятся все более актуальными
Предприятия все чаще внедряют AI-агентов для автоматизации сложных задач, но, согласно последним отчетам, растет обеспокоенность по поводу потенциальных рисков и необходимости надежного управления. Этот сдвиг происходит в то время, когда компании сталкиваются с огромным количеством предупреждений о безопасности и стремятся оптимизировать операции в технически сложных областях.
Рост популярности AI-агентов обусловлен необходимостью управления постоянно растущим объемом предупреждений о безопасности. Согласно VentureBeat, средний центр управления безопасностью предприятия (SOC) получает 10 000 предупреждений в день, на расследование каждого из которых требуется от 20 до 40 минут. Однако даже полностью укомплектованные команды могут обработать только 22 из этих предупреждений. Это привело к ситуациям, когда более 60% команд безопасности признались, что игнорируют предупреждения, которые впоследствии оказались критическими.
Чтобы решить эту проблему, команды SOC автоматизируют такие задачи, как триаж, обогащение и эскалация, а аналитики-люди переключают свое внимание на расследование, проверку и принятие решений в исключительных случаях, сообщает VentureBeat. Contextual AI, стартап, поддерживаемый Bezos Expeditions и Bain Capital Ventures, недавно запустил Agent Composer, платформу, предназначенную для помощи инженерам в создании AI-агентов для наукоемкой работы в таких отраслях, как аэрокосмическая промышленность и производство полупроводников, сообщает VentureBeat.
Moonshot AI, китайская компания, обновила свою модель Kimi K2 с открытым исходным кодом до Kimi K2.5, превратив ее в модель кодирования и визуализации, поддерживающую оркестровку роя агентов, сообщает VentureBeat. Это позволяет предприятиям создавать агентов, которые могут автоматически передавать действия, вместо того чтобы полагаться на централизованный орган принятия решений. Модель Kimi K2, на которой основана Kimi K2.5, имела 1 триллион общих параметров и 32 миллиарда активированных параметров, сообщает VentureBeat.
Однако растущая зависимость от AI-агентов также создает новые риски для безопасности. MIT Technology Review сообщила, что принуждение к действиям агентов с участием человека и полностью автономные рабочие процессы агентов становятся новым вектором атак для хакеров. Примерами таких атак являются атака с внедрением запросов в Gemini Calendar в 2026 году и спонсированная государством хакерская атака в сентябре 2025 года, в которой код Anthropic Claude использовался в качестве автоматизированного механизма вторжения.
В случае с Anthropic злоумышленники использовали AI для выполнения от 80 до 90% операций, включая разведку, разработку эксплойтов, сбор учетных данных, перемещение по сети и эксфильтрацию данных, а люди вмешивались только в нескольких ключевых точках принятия решений, сообщает MIT Technology Review. Атака затронула около 30 организаций в сфере технологий, финансов, производства и правительства.
Gartner прогнозирует, что более 40% инициатив в области AI-агентов потерпят неудачу из-за недостаточной интеграции человеческой интуиции и проницательности, сообщает VentureBeat. Это подчеркивает важность установления границ управления для обеспечения эффективного и этичного использования AI-агентов.
Discussion
Join the conversation
Be the first to comment