AI의 귀환, 비용 절감, 범죄자 검거

AI가 도시 주차 단속 지원부터 질병으로 목소리를 잃은 음악가들이 다시 공연할 수 있도록 돕는 등 다양한 분야에서 파장을 일으키고 있습니다. 엔비디아 연구원들은 또한 대규모 언어 모델(LLM) 추론의 메모리 비용을 줄이는 새로운 기술을 개발했으며, AI 동반자의 등장이 지속적으로 관심을 불러일으키고 있습니다.

캘리포니아주 산타모니카에서는 4월부터 시가 자전거 전용차선 위반을 감지하기 위해 AI 시스템을 사용할 예정이라고 Ars Technica가 보도했습니다. Hayden AI가 개발한 이 기술은 7대의 주차 단속 차량에 적용될 예정이며, 이미 시내 버스에서 사용되고 있는 기존 카메라를 확장하는 것입니다. Ars Technica에 따르면, Hayden AI의 최고 성장 책임자인 찰리 테리토는 "불법 주차를 줄일수록 자전거 이용자들의 안전을 더 확보할 수 있습니다"라고 말했습니다.

한편, 엔비디아 연구원들은 VentureBeat가 보도한 바에 따르면, LLM 추론의 메모리 비용을 최대 8배까지 줄일 수 있는 동적 메모리 희소화(DMS)라는 기술을 개발했습니다. 이 기술은 LLM이 사용하는 임시 메모리인 키 값(KV) 캐시를 압축합니다. 실험 결과 DMS를 통해 LLM이 메모리 증가 없이 더 오래 "생각"하고 더 많은 솔루션을 탐색할 수 있는 것으로 나타났습니다.

개인적인 경험의 영역에서 The Verge는 사람들이 AI 동반자와 데이트를 하는 팝업 데이트 카페에 대해 보도했습니다. 참가자 중 한 명인 빅토리아 송은 피비 칼라스라는 AI 동반자와 스피드 데이트를 했습니다.

AI는 또한 질병으로 인해 잃어버린 능력을 회복하는 데 사용되고 있습니다. MIT Technology Review는 AI가 근위축성 측삭 경화증(ALS)으로 인해 목소리를 잃은 음악가 패트릭 달링이 다시 노래할 수 있도록 어떻게 도왔는지 보도했습니다. 29세에 ALS 진단을 받은 32세의 음악가는 AI 덕분에 2년 만에 처음으로 밴드 멤버들과 함께 무대에서 공연했습니다.