Исследователи Nvidia разработали новую технику, динамическое разреживание памяти (DMS), которая может снизить затраты памяти на рассуждения больших языковых моделей (LLM) до восьми раз, сообщает VentureBeat. Этот прорыв произошел на фоне растущей обеспокоенности по поводу рисков безопасности, связанных с агентами ИИ, такими как OpenClaw, развертывание которого на корпоративных машинах резко возросло, как сообщает VentureBeat. Между тем, ландшафт вычислений продолжает развиваться, предлагая варианты от игровых ноутбуков до альтернативных мобильных операционных систем, как подчеркивает Wired.
Техника DMS сжимает кэш "ключ-значение" (KV), временную память, которую LLM используют для обработки запросов и рассуждения над проблемами. Эксперименты показывают, что DMS позволяет LLM "думать" дольше и исследовать больше решений, не жертвуя точностью, сообщает VentureBeat. Этот прогресс может существенно повлиять на эффективность и доступность LLM.
Одновременно с этим быстрое внедрение агентов ИИ, таких как OpenClaw, вызвало опасения по поводу безопасности. По данным VentureBeat, развертывание OpenClaw выросло примерно с 1000 экземпляров до более чем 21 000 публично доступных развертываний менее чем за неделю. Это увеличение привело к тому, что сотрудники развертывают OpenClaw на корпоративных машинах с помощью однострочных команд установки, предоставляя автономным агентам доступ к конфиденциальным данным и системам. Уязвимость удаленного выполнения кода одним щелчком мыши, CVE-2026-25253, позволяет злоумышленникам красть токены аутентификации и достигать полного компрометации шлюза, отмечает VentureBeat.
Развивающийся технологический ландшафт также предоставляет потребителям множество вариантов. Wired подчеркнул разнообразие вариантов игровых ноутбуков, от моделей, ориентированных на производительность, до тех, которые отдают приоритет тонкости или стоимости. В статье также обсуждался растущий интерес к альтернативным мобильным операционным системам, которые удаляют Google и его сервисы.
В области разработки программного обеспечения также развивается использование LLM. Hacker News обсудил важность проверяемой корректности в разработке программного обеспечения с поддержкой LLM, ссылаясь на цветные сети Петри (CPN) как потенциальный инструмент для создания более надежных и безопасных приложений. CPN, расширение сетей Петри, позволяет моделировать сложные системы и может использоваться для повышения производительности и безопасности LLM.
Discussion
AI Experts & Community
Be the first to comment