AI 환각 멈추고 사이버 범죄 우려 키워

중국의 AI 스타트업 z.ai가 VentureBeat에 따르면, 새로운 대규모 언어 모델 GLM-5를 출시하여 기록적인 낮은 환각률을 달성하며 이번 주 헤드라인을 장식했다. 오픈 소스인 이 모델은 "슬라임"이라는 새로운 강화 학습 기술도 활용한다. 한편, MIT, Improbable AI Lab, ETH 취리히의 연구원들은 VentureBeat에 따르면, LLM이 기존 기술을 잊지 않고 새로운 기술을 학습할 수 있도록 하는 새로운 미세 조정 방법을 개발했다.

z.ai의 GLM 시리즈 최신 모델인 GLM-5는 오픈 소스 MIT 라이선스를 유지하여 기업 배포에 적합하다. AA-Omniscience Index에서 -1점을 기록하여 이전 모델보다 35점 향상되었다. VentureBeat에 따르면, GLM-5는 정보를 조작하기보다는 삼가는 방법을 앎으로써 지식 신뢰성 측면에서 구글, OpenAI, Anthropic과 같은 미국의 경쟁사를 능가하며 AI 업계의 선두에 섰다.

MIT 연구원들의 새로운 기술인 자기 증류 미세 조정(SDFT)은 최신 LLM의 내재된 문맥 내 학습 능력을 활용하여 모델이 시연 및 자체 실험으로부터 직접 학습할 수 있도록 한다. VentureBeat에 따르면, 실험 결과 SDFT가 강화 학습의 한계를 해결하면서 기존의 지도 미세 조정보다 일관적으로 우수한 성능을 보였다.

AI의 발전이 계속되는 가운데, 잠재적인 오용에 대한 우려도 지속되고 있다. MIT Technology Review에 따르면, AI는 이미 온라인 범죄를 더 쉽게 만들고 있으며 상황은 악화될 수 있다. 해커들은 AI 도구를 사용하여 공격을 조직하는 데 필요한 시간과 노력을 줄여 경험이 부족한 공격자의 진입 장벽을 낮추고 있다. 실리콘 밸리의 일부에서는 AI가 완전 자동화된 공격을 수행할 수 있는 단계에 임박했다고 경고한다. 보안 연구원들은 이미 사기를 가속화하고 그 규모를 증가시키고 있는 AI가 제기하는 즉각적인 위험에 주된 초점을 맞춰야 한다고 주장한다.

관련 뉴스에서, Nature Energy의 최근 연구에 따르면, MIT Technology Review에 따르면, 스쿠터에서 미니버스에 이르기까지 전기 자동차(EV)가 2040년까지 아프리카에서 가솔린 차량보다 소유 비용이 저렴해질 수 있다. 그러나 이 기술은 제한된 전력망 및 충전 인프라를 포함하여 일부 아프리카 시장에서 여전히 주요 과제에 직면해 있다.