Опасения по поводу безопасности ИИ растут на фоне быстрого развертывания и уязвимостей
Сообщения выявили всплеск уязвимостей и нарушений безопасности, связанных с агентами ИИ, включая быстрое развертывание агента OpenClaw и критические недостатки в умных устройствах, что вызывает серьезную обеспокоенность по поводу раскрытия данных и потенциального взлома. Эти проблемы в сочетании с достижениями в области рассуждений ИИ подчеркивают сложный ландшафт технологического прогресса и возникающих рисков.
По данным VentureBeat, количество публично развернутых экземпляров агента ИИ с открытым исходным кодом OpenClaw выросло примерно с 1000 до более чем 21 000 менее чем за неделю. Это быстрое внедрение привело к проблемам безопасности, поскольку сотрудники развернули OpenClaw на корпоративных машинах, предоставив автономным агентам доступ к конфиденциальным данным и системам. Телеметрия GravityZone от Bitdefender, полученная из бизнес-сред, подтвердила эти опасения. Развертывание часто включало команды установки в одну строку, предоставляя агентам доступ к оболочке, привилегии файловой системы и доступ к токенам OAuth для таких сервисов, как Slack, Gmail и SharePoint.
Дополнительно к проблемам безопасности, уязвимость удаленного выполнения кода одним щелчком мыши (CVE-2026-25253) с рейтингом CVSS 8.8, позволяет злоумышленникам красть токены аутентификации через одну вредоносную ссылку, потенциально достигая полного компромисса шлюза за миллисекунды. Отдельная уязвимость внедрения команд также представляет значительную угрозу.
Одновременно продолжают появляться достижения в области ИИ. Исследователи из Nvidia разработали метод под названием динамическое разреживание памяти (DMS), который может снизить затраты памяти на рассуждения больших языковых моделей (LLM) до восьми раз, как сообщает VentureBeat. Этот метод сжимает кэш ключ-значение (KV), временную память, используемую LLM. Эксперименты показали, что DMS позволяет LLM «думать» дольше и исследовать больше решений, не увеличивая потребности в памяти.
Ландшафт безопасности выходит за рамки уязвимостей программного обеспечения. Исследователь в области безопасности обнаружил уязвимость в роботе-пылесосе DJI Romo, позволяющую удаленный доступ и управление примерно 7000 устройствами по всему миру, согласно The Verge. Этот доступ включал прямые трансляции с камер, возможности картографирования и отслеживание местоположения, что вызывает серьезную обеспокоенность по поводу безопасности устройств умного дома.
Сближение этих тенденций подчеркивает необходимость упреждающих мер безопасности. Как отметила Fortune, основные системы уязвимы, и растущая зависимость от технологий требует сосредоточения внимания на предотвращении сбоев, а не на реагировании на них. В статье предполагается, что ИИ не заменит квалифицированные профессии, но потребует их больше, делая их лучше.
Discussion
AI Experts & Community
Be the first to comment