Память ИИ достигла предела, что ставит под угрозу будущее продвинутых агентных систем. Выступая на VentureBeat AI Impact Series, технический директор WEKA Шимон Бен-Давид и генеральный директор VentureBeat Мэтт Маршалл выявили критическое узкое место: графическим процессорам не хватает памяти для Key-Value (KV) кэшей, необходимых ИИ-агентам для поддержания контекста. Это ограничение приводит к напрасной трате вычислительной мощности и росту затрат на облачные ресурсы.

Проблема, выявленная 15 января 2026 года, заключается в неспособности графических процессоров хранить необходимые данные для долго работающих ИИ-агентов. Это заставляет графические процессоры многократно выполнять вычисления, что снижает производительность в реальных производственных средах. WEKA предлагает решение: «хранение токенов» (token warehousing) — новый подход к управлению памятью.

Непосредственное влияние ощущается в увеличении операционных расходов и снижении эффективности развертывания ИИ. Компании, не осознавая этого, платят за избыточную обработку. Теперь отрасль сталкивается с задачей переосмысления архитектуры памяти для ИИ.

Современные ИИ-агенты полагаются на KV-кэши, чтобы запоминать прошлые взаимодействия и выстраивать контекст. Современная архитектура графических процессоров с трудом поддерживает эти требования, создавая серьезное препятствие для масштабирования систем ИИ с отслеживанием состояния.

Разработка хранения токенов и аналогичных решений для работы с памятью сейчас имеет решающее значение. Будущее ИИ-агентов зависит от преодоления этого узкого места в памяти, что откроет путь к более эффективным и мощным системам ИИ.