Кризис энергопотребления ИИ и сдвиги в вычислениях доминируют в технологическом ландшафте
Технологический мир сталкивается со стечением проблем, от обостряющегося кризиса энергопотребления ИИ до эволюционирующих парадигм вычислений, согласно многочисленным новостным источникам. Peak XV Partners инвестирует 15 миллионов долларов в C2i Semiconductors, индийский стартап, чтобы бороться с растущими ограничениями по энергопотреблению в центрах обработки данных ИИ, как сообщает TechCrunch. Одновременно отрасль наблюдает сдвиг в вычислительной мощности, переходя от CPU к GPU и, возможно, к новым парадигмам, таким как методы Mixture of Experts (MoE), как подчеркивает VentureBeat.
C2i Semiconductors разрабатывает эффективные решения для преобразования энергии, чтобы удовлетворить энергетические потребности инфраструктуры ИИ. Их технология на системном уровне направлена на снижение потерь энергии во время процессов понижения напряжения, что является критическим фактором, учитывая прогнозируемый всплеск спроса на электроэнергию в центрах обработки данных, по данным TechCrunch. Это финансирование серии A позволит C2i масштабировать свои plug-and-play решения.
Эволюция вычислительной мощности была повторяющейся темой в технологической индустрии. VentureBeat, опираясь на различные источники, отметила циклический характер технологического прогресса, используя Великую пирамиду как метафору иллюзии плавного, экспоненциального роста. Переход от CPU к GPU является ярким примером этой модели, и отрасль сейчас изучает новые подходы, такие как LLM, как видно на примере достижений DeepSeek и Nvidia, согласно VentureBeat.
В других новостях, разработка больших языковых моделей (LLM) продолжает развиваться. Одна из областей фокусировки - оптимизация пропускной способности, как подчеркивается в публикации блога на Hacker News. В публикации обсуждается непрерывная пакетная обработка, метод, полученный из механизмов внимания и кэширования KV, который направлен на улучшение скорости, с которой LLM генерируют ответы. Это особенно актуально, учитывая время, которое требуется для появления первого слова ответа LLM, согласно публикации.
В то время как технологический сектор преодолевает эти вызовы, разворачиваются и другие события. Губернатор Иллинойса Дж. Б. Прицкер активно сопротивляется федеральной иммиграционной политике, подписывая законы, ограничивающие операции ICE в штате, по данным Vox. Это включает в себя создание Комиссии по подотчетности Иллинойса и подачу иска против федерального правительства.
Discussion
AI Experts & Community
Be the first to comment