Вопросы безопасности, связанные с агентным ИИ, возникают на фоне роста популярности OpenClaw
OpenClaw, ИИ-ассистент с открытым исходным кодом, ранее известный как Clawdbot и Moltbot, достиг 180 000 звезд на GitHub и привлек 2 миллиона посетителей за одну неделю, по словам создателя Питера Штайнбергера, но его быстрый рост выявил значительные уязвимости в системе безопасности. Исследователи в области безопасности обнаружили более 1800 открытых экземпляров, раскрывающих ключи API, истории чатов и учетные данные, что вызывает опасения по поводу последствий для безопасности агентного ИИ, сообщает VentureBeat.
Проект, который в последнее время дважды менял название из-за споров о товарных знаках, подчеркивает проблемы обеспечения безопасности агентного ИИ, особенно при работе на оборудовании BYOD (Bring Your Own Device, «Принеси свое собственное устройство»). VentureBeat сообщил, что традиционные меры безопасности, такие как брандмауэры, EDR (Endpoint Detection and Response, «Обнаружение и реагирование на конечных точках») и SIEM (Security Information and Event Management, «Управление информацией о безопасности и событиями»), часто не обнаруживают угрозы от этих агентов, создавая значительный пробел в корпоративной безопасности.
Луис Колумбус из VentureBeat отметил, что низовое движение агентного ИИ представляет собой «самую большую неуправляемую поверхность атаки, которую большинство инструментов безопасности не видят». Децентрализованный характер этих инструментов, часто развертываемых без ведома или надзора групп корпоративной безопасности, усугубляет проблему.
Рост OpenClaw и аналогичных инструментов агентного ИИ подчеркивает необходимость обновления моделей безопасности, которые могут эффективно отслеживать и защищать от угроз, исходящих от этих новых технологий. Инцидент служит напоминанием о том, что быстрое внедрение ИИ может опережать разработку адекватных мер безопасности, оставляя организации уязвимыми для атак.
Discussion
AI Experts & Community
Be the first to comment