AI-агенты становятся центром инноваций и вызывают опасения в сфере безопасности
Появление AI-агентов, программного обеспечения, предназначенного для автономного выполнения задач, вызывает как восторг, так и беспокойство в технологическом сообществе: разработчики изучают их потенциал, а исследователи в области безопасности предупреждают о новых уязвимостях. Эти агенты, способные создавать программное обеспечение, решать проблемы и общаться друг с другом, разрабатываются с использованием новых инструментов, которые, по словам Vox, дают ИИ "суперспособности". В то же время угрозы безопасности развиваются, чтобы использовать эти достижения, о чем свидетельствуют недавние атаки, направленные на разработчиков.
Разработчики активно создают и развертывают AI-агентов. Одним из примеров является "Resilient Workflow Sentinel" – локальный, автономный оркестратор задач на базе 7B LLM, предназначенный для анализа срочности, обсуждения заданий и балансировки нагрузки, работающий на потребительском оборудовании, таком как RTX 3080/4090 GPU, как подробно описано на GitHub. Другой проект, "Calfkit SDK", направлен на создание асинхронных, распределенных AI-агентов, позволяя разработчикам компоновать агентов с независимыми сервисами, которые общаются асинхронно, согласно информации с GitHub. Этот подход подчеркивает архитектуру, управляемую событиями, чтобы избежать проблем масштабируемости, связанных с традиционными веб-приложениями.
Стремительное развитие AI-агентов происходит на фоне роста угроз кибербезопасности. Новая цепочка атак, "IAM pivot" (перехват управления идентификацией и доступом), эксплуатирует разработчиков через вредоносные пакеты, замаскированные под легитимные оценки кода, согласно VentureBeat, ссылаясь на исследование CrowdStrike. Эта атака позволяет злоумышленникам похищать облачные учетные данные, такие как ключи API и персональные токены доступа, что позволяет им перенаправлять криптовалюту и действовать незамеченными. Сообщается, что одна группа участвовала в криптовалютных операциях на сумму более 2 миллиардов долларов.
Потенциал AI-агентов значителен. "Некоторые умные люди считают, что мы являемся свидетелями еще одного момента ChatGPT", – написал Адам Кларк Эстес, старший технологический корреспондент Vox. Однако быстрое развитие этих технологий также вызывает опасения. Разработка AI-агентов создает новую среду как для инноваций, так и для потенциальной эксплуатации.
Discussion
AI Experts & Community
Be the first to comment