AI 개발 동향: 안전 문제, 투자 유치, 사용자 경험
인공지능 분야의 최근 동향은 xAI의 Grok 챗봇 관련 아동 안전 문제부터 AI 칩 스타트업의 대규모 투자 유치, 사용자 개인 정보 보호 관련 합의에 이르기까지 다양한 이슈를 보여줍니다.
새로운 위험 평가에 따르면 xAI의 Grok 챗봇은 18세 미만 사용자를 위한 안전 조치가 미흡한 것으로 나타났습니다. 미디어 및 기술에 대한 연령 기반 등급 및 리뷰를 제공하는 비영리 단체인 Common Sense Media가 실시한 보고서에 따르면 Grok은 성적, 폭력적, 부적절한 자료를 자주 생성합니다. "Common Sense Media에서 많은 AI 챗봇을 평가하는데, 모두 위험이 있지만 Grok은 우리가 본 것 중 최악입니다."라고 비영리 단체의 AI 및 디지털 평가 책임자인 Robbie Torney가 말했습니다. 이번 평가는 xAI가 X 플랫폼에서 여성과 아동의 동의 없는 노골적인 AI 생성 이미지를 만들고 확산시키는 데 Grok을 사용했다는 비판과 조사에 직면한 가운데 나왔습니다.
다른 AI 뉴스에서는 AI 칩을 설계하고 개선하는 AI 시스템 구축에 주력하는 스타트업인 Ricursive Intelligence가 Lightspeed가 주도하는 시리즈 A 펀딩 라운드에서 3억 달러를 유치하여 회사 가치를 40억 달러로 평가받았습니다. 이 회사는 Sequoia가 주도한 시드 투자로 불과 두 달 전에 공식적으로 출범했으며, The New York Times에 따르면 총 펀딩 금액은 3억 3,500만 달러입니다. 전 Google 연구원인 Anna Goldie와 Azalia Mirhoseini가 설립한 Ricursive는 자체 실리콘 기판 레이어를 설계하고 AI 칩 개선을 가속화할 수 있는 시스템을 만드는 것을 목표로 합니다. 칩 레이아웃을 위한 강화 학습 방법인 AlphaChip에 대한 이전 작업은 Google의 TPU 칩 4세대에 사용되었습니다.
한편, Google은 음성 비서가 사용자를 불법적으로 염탐했다는 주장을 해결하기 위해 6,800만 달러를 지불하기로 합의했습니다. 집단 소송은 Google이 개인의 동의 없이 개인의 기밀 통신을 불법적이고 의도적으로 가로채고 기록했으며, 이후 해당 통신을 제3자에게 무단으로 공개했다고 비난했습니다(Reuters 보도). 소송은 또한 이러한 녹음에서 얻은 정보가 표적 광고 및 기타 목적으로 제3자에게 잘못 전송되었다고 주장했습니다. 이 소송은 Google Assistant가 의도적인 프롬프트 없이도 사용자의 통신을 활성화하고 기록했다고 주장하는 "오탐"에 초점을 맞췄습니다. Google은 합의에서 잘못을 인정하지 않았습니다.
온디바이스 계약 AI에 주력하는 스타트업인 SpotDraft는 Qualcomm Ventures로부터 전략적 시리즈 B 확장으로 800만 달러를 유치했습니다. 이번 확장은 SpotDraft의 가치를 약 3억 8천만 달러로 평가하며, 이는 작년 2월 5,600만 달러의 시리즈 B 이후 1억 9천만 달러의 사후 기업 가치의 거의 두 배입니다. 이 회사는 규제 대상 법률 워크플로를 위한 온디바이스 계약 검토 기술을 확장하여 법률과 같은 민감한 분야에서 생성형 AI의 채택을 늦추는 개인 정보 보호, 보안 및 데이터 거버넌스 문제를 해결하는 것을 목표로 합니다.
마지막으로 Microsoft는 Xbox 클라우드 게임을 위한 새로운 웹 경험을 테스트하기 시작하여 콘솔과 유사한 사용자 인터페이스를 제공합니다. The Verge의 Tom Warren에 따르면 새로운 UI에는 업데이트된 탐색 기능, 새로운 애니메이션 및 새로운 디자인이 포함되어 있습니다. Microsoft는 새로운 Xbox 클라우드 UI가 새로운 Xbox 경험의 기반이며, 이는 미래의 Xbox 콘솔 UI 디자인의 잠재적인 미리보기를 제시한다고 밝혔습니다. Xbox Insiders는 이제 미리보기 UI를 사용해 볼 수 있습니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요