Память ИИ достигает предела, что ставит под угрозу будущее продвинутых агентных систем. Выступая на мероприятии VentureBeat AI Impact Series, технический директор WEKA Шимон Бен-Давид и генеральный директор VentureBeat Мэтт Маршалл выявили критическое узкое место: графическим процессорам не хватает памяти для Key-Value (KV) кэшей, необходимых ИИ-агентам для поддержания контекста. Это ограничение приводит к напрасной трате вычислительной мощности, увеличению затрат на облачные сервисы и снижению производительности.

Проблема уже влияет на производственные среды, хотя часто и не осознается. 15 января 2026 года Бен-Давид и Маршалл обсудили предложенное WEKA решение: складирование токенов, новый подход к управлению памятью. Этот метод направлен на переосмысление того, как системы ИИ обрабатывают информацию и получают к ней доступ.

Нехватка памяти напрямую влияет на масштабируемость stateful AI. Без достаточного объема памяти ИИ-агентам сложно учиться и опираться на прошлый опыт. Складирование токенов потенциально может открыть возможности для более сложных приложений ИИ.

Существующая архитектура графических процессоров не справляется с требованиями долго работающих ИИ-агентов. В настоящее время отрасль активно ищет решения для оптимизации использования памяти.

WEKA планирует и дальше развивать и совершенствовать складирование токенов. Отрасль будет внимательно следить за тем, сможет ли этот подход действительно прорвать стену памяти ИИ.