Исследователи, представившие свои работы на конференции Neural Information Processing Systems (NeurIPS) в 2025 году, пришли к выводу, что простое масштабирование моделей обучения с подкреплением (RL) не гарантирует повышения производительности, особенно при недостаточной глубине представления. Исследование, отмеченное как одно из самых влиятельных на конференции, ставит под сомнение предположение о том, что более крупные модели автоматически приводят к улучшению способностей к рассуждению в искусственном интеллекте.

Статья, наряду с другими, представленными на NeurIPS, указывает на сдвиг в этой области, предполагая, что прогресс в ИИ все больше ограничивается архитектурным дизайном, динамикой обучения и стратегиями оценки, а не только необработанной мощностью моделей. «Лучшие работы этого года в совокупности указывают на более глубокий сдвиг: прогресс в ИИ теперь в меньшей степени сдерживается необработанной мощностью модели и в большей степени архитектурой, динамикой обучения и стратегией оценки», — отметила Маитрейи Чаттерджи, исследователь в области ИИ.

Один из ключевых выводов подчеркнул важность глубины представления в обучении с подкреплением. Глубина представления относится к сложности и изощренности признаков, которые модель RL учится извлекать из своей среды. Согласно исследованию, без достаточной глубины в этих изученных представлениях модели RL, как правило, достигают плато в производительности, независимо от того, насколько большими они становятся. Это говорит о том, что простое увеличение размера модели RL без улучшения ее способности понимать и представлять свою среду приводит к снижению отдачи.

Деванш Агарвал, еще один специалист по ИИ, объяснил, что «большие модели означают лучшее рассуждение» больше не является надежным предположением. Он добавил, что необходимо переключить внимание на разработку архитектур, которые могут изучать более значимые и абстрактные представления о мире.

Последствия этих выводов выходят за рамки академических исследований. Для компаний, создающих реальные системы ИИ, исследование предполагает, что инвестиции в архитектурные инновации и улучшенные методологии обучения могут быть более эффективными, чем простое масштабирование существующих моделей. Это может привести к созданию более эффективных и функциональных систем ИИ в таких областях, как робототехника, игры и автономное вождение.

На конференции NeurIPS 2025 также были представлены исследования, оспаривающие другие широко распространенные убеждения в сообществе ИИ, в том числе представление о том, что механизмы внимания являются решенной проблемой и что генеративные модели неизбежно запоминают данные обучения. Эти результаты в совокупности указывают на необходимость более тонких подходов к разработке ИИ, с большим упором на понимание основных динамик обучения и обобщения.

Ожидается, что исследования, представленные на NeurIPS 2025, стимулируют дальнейшее изучение роли архитектуры и динамики обучения в ИИ, что потенциально приведет к новым прорывам в разработке более эффективных и функциональных систем ИИ. Сообщество ИИ, вероятно, сосредоточится на разработке новых методов улучшения обучения представлению в RL и изучении альтернативных архитектурных решений, которые могут преодолеть ограничения текущих моделей.