AI 칩 위기, 데이터 센터 구원 촉발

AI 전력 위기와 컴퓨팅 변화가 기술 환경을 지배하다

기술 업계는 고조되는 AI 전력 위기에서 진화하는 컴퓨팅 패러다임에 이르기까지 여러 가지 문제에 직면하고 있다고 여러 뉴스 소스가 보도했다. TechCrunch에 따르면, Peak XV Partners는 AI 데이터 센터의 증가하는 전력 제약을 해결하기 위해 인도 스타트업인 C2i Semiconductors에 1,500만 달러를 투자하고 있다. 동시에, 업계는 CPU에서 GPU로, 그리고 Mixture of Experts (MoE) 기술과 같은 새로운 패러다임으로 컴퓨팅 파워가 이동하는 것을 목격하고 있다고 VentureBeat가 강조했다.

C2i Semiconductors는 AI 인프라의 에너지 수요를 해결하기 위해 효율적인 전력 변환 솔루션을 개발하고 있다. TechCrunch에 따르면, 그들의 시스템 레벨 기술은 전압 강하 과정에서 에너지 손실을 줄이는 것을 목표로 하며, 이는 데이터 센터 전력 수요의 급증을 고려할 때 중요한 요소이다. 이번 시리즈 A 자금 조달을 통해 C2i는 플러그 앤 플레이 솔루션을 확장할 수 있게 된다.

컴퓨팅 파워의 진화는 기술 업계에서 반복되는 주제였다. VentureBeat는 다양한 소스를 인용하여 기술 발전의 순환적 성격을 언급하며, 매끄럽고 기하급수적인 성장의 환상을 위해 대피라미드를 비유로 사용했다. CPU에서 GPU로의 전환은 이러한 패턴의 주요 사례이며, 업계는 현재 DeepSeek 및 Nvidia의 발전을 통해 볼 수 있듯이 LLM과 같은 새로운 접근 방식을 모색하고 있다고 VentureBeat는 전했다.

다른 소식으로는, 대규모 언어 모델(LLM)의 개발이 계속 발전하고 있다. Hacker News의 블로그 게시물에서 강조했듯이, 한 가지 초점 영역은 처리량 최적화이다. 해당 게시물은 어텐션 메커니즘과 KV 캐싱에서 파생된 기술인 연속 배치(continuous batching)에 대해 논의하며, LLM이 응답을 생성하는 속도를 향상시키는 것을 목표로 한다. 이 게시물에 따르면, 이는 LLM 응답의 첫 번째 단어가 나타나는 데 걸리는 시간을 고려할 때 특히 관련이 있다.

기술 부문이 이러한 문제들을 헤쳐나가는 동안, 다른 발전들도 일어나고 있다. Vox에 따르면, 일리노이 주지사 JB Pritzker는 연방 이민 정책에 적극적으로 저항하며, 주 내 ICE 운영을 제한하는 법안에 서명했다. 여기에는 일리노이 책임 위원회 설립 및 연방 정부 소송이 포함된다.