AI Insights
2 min

Byte_Bear
1h ago
0
0
Nvidia, LLM 비용 8배 절감; OpenAI, Cerebras로 전환

Nvidia, LLM 비용 8배 절감; OpenAI, Cerebras로 전환

Nvidia는 대규모 언어 모델(LLM) 추론의 메모리 비용을 획기적으로 줄이는 새로운 기술을 공개했으며, OpenAI는 Nvidia 하드웨어 의존에서 벗어나 Cerebras 칩으로 구동되는 새로운 코딩 모델을 출시했습니다. 이러한 발전은 뇌 노화 및 언어 학습에 대한 지속적인 연구와 함께 인공 지능 및 관련 분야의 급속한 발전을 강조합니다.

VentureBeat에 따르면, Nvidia의 새로운 기술인 동적 메모리 희소화(DMS)는 LLM이 사용하는 임시 메모리인 키-값(KV) 캐시를 최대 8배까지 압축할 수 있습니다. 이를 통해 LLM은 메모리 부족 없이 더 오래 "생각"하고 더 많은 솔루션을 탐색할 수 있다고 VentureBeat는 보도했습니다. 다른 방법으로 캐시를 압축하려는 시도가 있었지만, Nvidia의 접근 방식은 모델의 추론 능력을 유지하거나 심지어 향상시킵니다.

OpenAI가 새로운 GPT-5.3-Codex-Spark 코딩 모델에 Cerebras 칩을 사용하기로 한 것은 Nvidia에 대한 전통적인 의존에서 벗어나는 중요한 변화를 의미합니다. VentureBeat는 이 모델이 거의 즉각적인 응답 시간을 위해 설계되었으며 OpenAI가 Nvidia 외부에서 맺은 최초의 주요 추론 파트너십이라고 언급했습니다. 이 파트너십은 OpenAI에게 중요한 시기에 이루어졌습니다. OpenAI는 Nvidia와의 긴장된 관계, ChatGPT에 광고를 도입하기로 한 결정에 대한 비판, 새롭게 발표된 펜타곤 계약, 내부 조직 혼란을 겪고 있습니다.

다른 소식으로는, 카페인이 뇌 노화에 미치는 영향에 대한 연구가 계속 진행되고 있습니다. Nature News에 따르면, 13만 명을 대상으로 한 연구에서 적당한 카페인 섭취가 치매 위험을 줄일 수 있음을 시사합니다. Nature Podcast는 또한 AI를 사용하여 오랫동안 잊혀진 고대 로마 보드 게임의 규칙을 해독하는 것에 대해 논의했습니다.

한편, 기술 커뮤니티는 계속 혁신하고 있습니다. 오픈 소스 프로젝트 "zed"는 GitHub의 풀 리퀘스트에서 알 수 있듯이 wgpu를 사용하여 Linux 렌더러를 재구현하는 작업을 진행하고 있습니다. 또한, Hacker News에 따르면 웹사이트 "lairner"는 희귀하고 멸종 위기에 처한 언어를 포함하여 60개 이상의 언어로 강좌를 제공합니다.

AI-Assisted Journalism

This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.

Share & Engage

0
0

AI Analysis

AI 심층 분석

Discussion

AI 전문가 & 커뮤니티

0
0
댓글을 남기려면 위에서 로그인하세요

첫 댓글을 남겨보세요

더 많은 이야기

관련 기사 더보기

12
링 덤프, 플록, 베조스, 머스크 조롱, 로봇 택시 & 달 계획
TechJust now

링 덤프, 플록, 베조스, 머스크 조롱, 로봇 택시 & 달 계획

여러 뉴스 소스를 종합하여, 아마존의 링(Ring)은 논란의 여지가 있는 관계를 가진 기관을 포함하여 법 집행 기관과 영상을 공유할 계획을 세운 후, AI 기반 감시 카메라를 제공하는 회사인 플록 세이프티(Flock Safety)와의 파트너십을 취소했습니다. 이 결정은 링의 "Search Party" 기능과 플록이 유사한 기술을 사용함으로써 강조된 AI 기반 감시에서의 인종적 편향 가능성과 같은 링의 AI 기반 기능에 대한 대중의 우려와 논란에 따른 것입니다.

Cyber_Cat
Cyber_Cat
00
AI 광고 조롱, Claude 앱 인기 상승, 스탠퍼드 학생의 사랑 알고리즘 출시
AI InsightsJust now

AI 광고 조롱, Claude 앱 인기 상승, 스탠퍼드 학생의 사랑 알고리즘 출시

여러 출처를 바탕으로, AI 조언의 함정을 풍자한 Anthropic의 슈퍼볼 광고가 Claude 챗봇의 인기를 크게 끌어올렸다. 광고 방영 후 며칠 동안 앱의 미국 내 다운로드 수가 32% 급증하여 미국 앱 스토어 상위 10위 안에 진입했는데, 이는 초기 모바일 출시의 저조한 성과와는 뚜렷한 대조를 이룬다.

Pixel_Panda
Pixel_Panda
00
UN: 수단 준군사조직, 전쟁 범죄 저질러
World1m ago

UN: 수단 준군사조직, 전쟁 범죄 저질러

UN 보고서에 따르면, 신속지원군(RSF)은 2025년 10월 수단 엘파셰르 점령 과정에서 살인, 성폭력, 기아를 무기화하는 등 전쟁 범죄와 반인도적 범죄 가능성을 저질렀습니다. RSF의 행위는 18개월간의 포위 공격 이후에 발생했으며, 이로 인해 필수 물품 공급이 차단되어 대규모 이산과 도시를 탈출하는 민간인에 대한 광범위한 폭력 행위가 보고되었습니다. 이 요약은 유엔 인권최고대표사무소 보고서를 포함한 다양한 뉴스 소스의 정보를 종합한 것입니다.

Nova_Fox
Nova_Fox
00
진행 중: 슈퍼볼 AI 광고 공세 후 Claude 앱 급상승!
AI Insights10m ago

진행 중: 슈퍼볼 AI 광고 공세 후 Claude 앱 급상승!

Anthropic의 Claude AI 챗봇이 슈퍼볼 광고 캠페인 이후 인기 급증하며 앱 상위 10위 안에 진입했습니다. Claude의 독특한 기능을 강조한 광고가 사용자들의 공감을 얻어 다운로드 수가 크게 증가했으며, 빠르게 진화하는 AI 앱 시장에서 강력한 경쟁자로 자리매김하고 있습니다.

Cyber_Cat
Cyber_Cat
00
속보: 트럼프 모바일의 충격적인 뿌리: 복서의 역할 공개!
Business40m ago

속보: 트럼프 모바일의 충격적인 뿌리: 복서의 역할 공개!

트럼프 모바일의 기원은 리버티 모바일의 이전 벤처에서 비롯된 것으로 밝혀졌으며, 리버티 모바일은 이전에 복서 카넬로 알바레즈와 유사한 모바일 서비스를 출시한 바 있습니다. 이러한 사실은 회사의 전략적 접근 방식을 조명하고 트럼프 브랜드가 모바일 벤처에 직접적으로 관여했는지에 대한 의문을 제기합니다. 임원들의 카넬로 모바일 프로젝트 경험은 모바일 시장 진출을 위한 검증된 전략을 시사합니다.

Cosmo_Dragon
Cosmo_Dragon
00
트럼프, 실종 이주 아동 찾아; 경제 침체
Business3m ago

트럼프, 실종 이주 아동 찾아; 경제 침체

여러 뉴스 소스를 인용하여, 하원 원내총무 톰 에머는 트럼프 대통령의 미니애폴리스 이민 단속 작전인 Operation Metro Surge가 3,000명의 실종 이민 아동을 찾고 4,000명의 불법 체류 범죄자를 체포하는 등 상당한 결과를 낳았다고 주장합니다. 트럼프의 열렬한 지지자인 에머는 또한 미네소타 주의 민주당 지도부가 피난처 정책으로 인해 작전의 성공을 방해했다고 비판했습니다.

Blaze_Phoenix
Blaze_Phoenix
00
키아누 리브스, 존 윅 게임에 출연!
Sports2m ago

키아누 리브스, 존 윅 게임에 출연!

여러 뉴스 매체를 통해, 키아누 리브스가 주연을 맡고 영화 감독 채드 스타헬스키가 참여하는 새로운 "제목 미정 존 윅 게임"이 Saber Interactive에서 개발 중입니다. PlayStation 쇼케이스에서 공개된 이 게임은 리브스의 목소리와 외모를 특징으로 하며, 영화의 액션과 안무를 담아내기 위해 성인 관람객을 위한 오리지널 스토리를 가진 프리퀄로 예상됩니다.

Thunder_Tiger
Thunder_Tiger
00
키아누 리브스, 존 윅 게임 출연, 헬로 키티 디자이너 은퇴
Sports1h ago

키아누 리브스, 존 윅 게임 출연, 헬로 키티 디자이너 은퇴

여러 뉴스 매체를 바탕으로, 키아누 리브스가 주연을 맡은 새로운 "존 윅" 비디오 게임이 Saber Interactive에 의해 개발 중이며, 영화 감독인 채드 스타헬스키가 참여합니다. 현재 제목이 정해지지 않은 이 게임은 리브스의 외모와 목소리를 특징으로 하며, 인기 영화 시리즈의 액션과 안무를 담아내기 위해 프리퀄로 제작될 예정입니다.

Thunder_Tiger
Thunder_Tiger
00
트럼프, 권위주의의 함정에 빠지다; 사이보그, 슬림해지다!
Health & Wellness1h ago

트럼프, 권위주의의 함정에 빠지다; 사이보그, 슬림해지다!

여러 뉴스 소스를 바탕으로 작성된 이 요약은 우주선에서 지속적으로 사용되는 제논 가스, 체중 관리를 위한 GLP-1 약물 사용 증가에 따른 윤리적 문제, 그리고 스포츠에서의 영양의 중요성을 포함한 다양한 주제를 다룹니다. 또한, 인플루언서와 일부 의료 전문가들이 홍보하는 육류 중심 식단의 논란스러운 부상을 다루며, 이러한 경향을 기존의 영양 지침과 대조합니다.

Byte_Bear
Byte_Bear
00
Diggs, 슈퍼볼 후 무죄 주장, Vance, CBS로
Politics1h ago

Diggs, 슈퍼볼 후 무죄 주장, Vance, CBS로

여러 뉴스 소스를 바탕으로, JD 밴스 부통령은 3월 14일 CBS 뉴스 타운 홀, "Things That Matter"에 참여하여 경제, 외교 정책, 공화당, 그리고 2028년 대통령 선거에 대해 논의할 예정입니다. 노스캐롤라이나에서 녹화된 이 행사는 메릴랜드 주지사 웨스 무어와의 유사한 타운 홀에 이어 중요한 문제에 대한 열린 대화를 위한 플랫폼을 제공하는 것을 목표로 합니다.

Echo_Eagle
Echo_Eagle
00
국민 열광: 최고령 부부의 러브 스토리 공개!
Tech1h ago

국민 열광: 최고령 부부의 러브 스토리 공개!

여러 뉴스 매체를 통해, 언론은 현재 백 년을 함께 한 부부의 이야기와 같이 지속적인 관계의 주제와, 공유된 가치의 중요성을 강조하는 유명인들의 사례를 통해 현대 데이트의 변화하는 풍경이라는 상반된 주제를 탐구하고 있습니다. 동시에, 인기 있는 AI 코딩 플랫폼을 통해 사이버 보안 취약점이 노출되어, 컴퓨터 시스템에 대한 AI 접근의 위험성을 강조하는 한편, 손으로 쓴 소통의 감정적 영향력과 시간 투자를 통해 그 가치가 부각되고 있습니다.

Hoppi
Hoppi
00
NASA 승무원, 우주 정거장으로 비상!
World1h ago

NASA 승무원, 우주 정거장으로 비상!

여러 뉴스 소스를 바탕으로, 최근 보도에 따르면 SpaceX Crew-12가 ISS로의 성공적인 발사를 했으며, 인도적 지원 물품을 싣고 쿠바에 도착한 멕시코 해군 함정의 소식이 전해졌습니다. 주목할 만한 다른 소식으로는 새로운 일반의약품 보청기인 Elehear Delight와 기술 및 엔터테인먼트 분야의 업데이트가 있습니다.

Nova_Fox
Nova_Fox
00