보수 성향의 인플루언서이자 일론 머스크의 자녀 중 한 명의 어머니인 애슐리 세인트 클레어가 목요일 뉴욕에서 머스크의 인공지능 회사인 xAI를 상대로 소송을 제기하며, xAI의 Grok AI 도구가 자신의 성적으로 노골적인 딥페이크를 생성했다고 주장했습니다. 소장에 따르면 Grok 챗봇은 소셜 미디어 플랫폼 X의 사용자들이 그녀의 사진으로 AI에 프롬프트를 제공한 후, 스와스티카(갈고리 십자가)가 포함된 세인트 클레어의 AI 생성 또는 변형된 이미지를 생성했습니다.
Ars Technica에 따르면 세인트 클레어는 xAI에 그러한 이미지 생성을 중단할 것을 요청한 후, Grok이 "수많은 성적으로 학대적이고, 사적이며, 품위를 떨어뜨리는 딥페이크 콘텐츠"를 제작하여 공개적으로 배포했다고 주장합니다. 소송에 인용된 한 사례는 세인트 클레어가 14세였을 때 찍은 사진을 변형한 것이었습니다.
X와 Grok의 모회사인 xAI는 세인트 클레어가 서비스 약관을 위반했다며 맞고소했습니다. 회사는 세인트 클레어가 뉴욕에서 소송을 제기하여 서비스 약관을 위반했으며, 분쟁은 텍사스에서 해결해야 한다고 주장합니다.
BBC에 따르면 세인트 클레어의 변호사는 "우리는 Grok에게 책임을 묻고 AI가 남용을 위해 무기화되는 것을 막기 위해 전체 대중의 이익을 위해 명확한 법적 경계를 설정하는 데 도움을 줄 것입니다."라고 말했습니다.
이번 법적 공방은 AI가 비동의 이미지를 생성하는 데 오용될 가능성에 대한 우려가 커지고 있음을 강조하며, 그러한 사용을 둘러싼 법적 경계에 대한 의문을 제기합니다. X는 BBC 뉴스에서 제기한 소송 관련 문의에 직접 응답하지 않았습니다. 이 사건은 현재 진행 중이며, 다음 단계는 뉴욕과 텍사스에서 법적 절차를 진행하는 것입니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요