AI가 카이퍼 벨트 발견에 힘을 실어, LLM 비용 절감

천문학자들은 해왕성 너머의 광대한 얼음 파편 지역인 카이퍼 벨트에 대한 이해를 크게 넓힐 준비를 하고 있으며, 캘리포니아 해변 마을은 자전거 전용차선 위반을 단속하기 위해 AI를 배치하고 있으며, 엔비디아 연구원들은 대규모 언어 모델(LLM) 추론의 메모리 비용을 줄이는 기술을 개발했습니다. 우주 탐사, 도시 안전, 인공 지능에 걸쳐 있는 이러한 발전은 다양한 분야에서 진행 중인 발전을 강조합니다.

Ars Technica에 따르면, 지난 30년 동안 천문학자들은 왜소 행성과 얼음 혜성을 포함하여 약 4,000개의 카이퍼 벨트 천체(KBO)를 목록화했습니다. 그러나 더 발전된 망원경의 관측이 활용됨에 따라 향후 몇 년 안에 이 숫자는 10배 증가할 것으로 예상됩니다. 이를 통해 지구에서 태양보다 30~50배 더 멀리 떨어진 이 지역에 대한 더 깊은 이해를 얻을 수 있습니다.

캘리포니아 산타 모니카에서는 Ars Technica의 보도에 따르면, 시가 자전거 전용차선 위반을 감지하기 위해 시립 주차 단속 차량에 AI 시스템을 사용하는 미국 최초의 도시가 될 것입니다. 4월부터 Hayden AI의 스캔 기술이 7대의 주차 단속 차량에 구현되어 이미 시내 버스에 장착된 기존 카메라를 확장할 예정입니다. Hayden AI의 최고 성장 책임자인 Charley Territo는 "불법 주차를 줄일수록 자전거 이용자들의 안전을 더 확보할 수 있습니다."라고 말했습니다.

한편, 엔비디아 연구원들은 VentureBeat에 자세히 설명된 바와 같이, LLM 추론의 메모리 비용을 최대 8배까지 줄일 수 있는 동적 메모리 희소화(DMS)라는 기술을 개발했습니다. DMS는 LLM이 생성하는 임시 메모리인 키 값(KV) 캐시를 압축합니다. 실험 결과 DMS를 통해 LLM이 추가 메모리 없이 더 오래 "생각"하고 더 많은 솔루션을 탐색할 수 있는 것으로 나타났습니다.

AI 개발은 다른 분야에도 적용되고 있습니다. VentureBeat에 따르면, 생산적인 실시간 대화에 이상적인 규모는 4~7명 정도라는 연구 결과가 있습니다. 그룹이 커질수록 각 개인에게 발언 기회가 줄어들어 좌절감이 커집니다.

다른 맥락에서 MIT Technology Review는 첨단 기술 범죄의 현실을 강조하며, 기술적 대응책은 거의 문제가 되지 않으며, 첨단 기술 장치는 거의 해결책이 되지 않는다고 지적했습니다. 진입의 주요 장벽은 대개 문자 그대로의 진입 장벽입니다.