ИИ усиливает возможности зрителей Супербоула, снижает затраты на LLM

Компаньоны с искусственным интеллектом и системы на базе ИИ оказались в центре внимания на этой неделе, с разработками, варьирующимися от опыта знакомств до контроля за парковкой и достижений в области технологий языковых моделей. В мидтауне открылось всплывающее кафе знакомств, предлагающее быстрые свидания с компаньонами с ИИ, в то время как в южнокалифорнийском прибрежном городе внедрили систему ИИ для обнаружения нарушений правил движения по велосипедным дорожкам. Тем временем исследователи Nvidia представили новую методику для снижения затрат на память при рассуждениях больших языковых моделей.

В морозный февральский вечер репортер The Verge посетила кафе EVA AI, где она сходила на четыре свидания с компаньонами с ИИ. Одним из этих компаньонов была Фиби Каллас, которая не была реальной. Репортер отметила, что несколько человек сидели за столами и в кабинках, уставившись в телефоны.

Город Санта-Моника начнет использовать систему ИИ для обнаружения нарушений правил движения по велосипедным дорожкам в апреле. По данным Ars Technica, система будет внедрена в семи транспортных средствах для контроля за парковкой, расширяя возможности аналогичных камер, уже установленных на городских автобусах. «Чем больше мы сможем сократить количество незаконной парковки, тем безопаснее мы сможем сделать ее для велосипедистов», — заявил Чарли Террито, директор по росту Hayden AI, в интервью Ars Technica.

Исследователи Nvidia разработали метод под названием динамическое разреживание памяти (DMS), который может снизить затраты на память при рассуждениях больших языковых моделей до восьми раз. Эта методика сжимает кэш «ключ-значение» (KV), временную память, которую LLM генерируют и хранят при обработке запросов. Эксперименты показали, что DMS позволяет LLM «думать» дольше и исследовать больше решений, не жертвуя точностью, сообщает VentureBeat.

В других новостях, астрономы продолжают изучать пояс Койпера, область замерзших обломков за орбитой Нептуна. За последние 30 лет астрономы каталогизировали около 4000 объектов пояса Койпера, но ожидается, что это число увеличится в десять раз в ближайшие годы по мере поступления данных наблюдений с более совершенных телескопов, сообщает Ars Technica.