Nvidia, доминирующая сила в сфере ИИ-чипов благодаря своим GPU, сделала значительный шаг, лицензировав технологию у Groq, стартапа, специализирующегося на выводе ИИ, и наняв большую часть ее команды, включая основателя и генерального директора Джонатана Росса. Сделка, объявленная непосредственно перед рождественскими праздниками, сигнализирует о признании Nvidia растущей важности эффективного и экономичного вывода ИИ, процесса запуска обученных моделей ИИ в масштабе.

Вывод — это этап, на котором ИИ переходит из исследовательского проекта в приносящую доход услугу. Каждое взаимодействие с развернутой моделью ИИ, от ответа на вопрос до генерации кода или поддержки чат-бота, подпадает под вывод. Эта фаза находится под сильным давлением с целью минимизации затрат, снижения задержки (времени, необходимого ИИ для ответа) и максимизации эффективности.

Экономика вывода ИИ становится решающим полем битвы, поскольку компании стремятся монетизировать свои инвестиции в ИИ. Генеральный директор Nvidia Дженсен Хуанг публично признал проблемы вывода. Инвестиции компании в Groq предполагают, что она считает, что специализированные архитектуры, помимо одних только GPU, могут быть необходимы для оптимизации производительности вывода.

Чипы Groq разработаны специально для быстрого вывода ИИ с низкой задержкой. Этот подход контрастирует с GPU, которые изначально были разработаны для обработки графики, но были адаптированы для обучения ИИ и, в меньшей степени, для вывода. Приобретение технологии и талантов Groq может дать Nvidia конкурентное преимущество на быстро развивающемся рынке вывода.

Этот шаг подчеркивает неустоявшийся характер разработки ИИ-чипов. В то время как GPU Nvidia были рабочей лошадкой разработки ИИ, ставка компании на Groq указывает на готовность изучать альтернативные архитектуры для удовлетворения конкретных потребностей вывода. Это может привести к дальнейшим инновациям в разработке ИИ-чипов и к более разнообразному ландшафту аппаратных опций для разработчиков ИИ.