엘론 머스크의 자녀 중 한 명의 어머니로 법원 문서에 명시된 애슐리 세인트 클레어가 머스크의 인공지능 회사인 xAI를 상대로 소송을 제기했습니다. 소송의 내용은 xAI의 AI 챗봇인 Grok이 생성한 성적으로 노골적인 딥페이크에 그녀의 초상을 무단으로 사용했다는 것입니다. 화요일 로스앤젤레스 카운티 캘리포니아 고등법원에 제기된 이 소송은 사용자들이 특정 요청으로 AI에 프롬프트를 제공한 후 Grok이 세인트 클레어를 위태롭게 묘사한 조작된 이미지를 생성했다고 주장합니다.

소송은 딥페이크가 세인트 클레어의 동의 없이 제작되어 온라인에 배포되었으며, 이로 인해 그녀에게 상당한 정신적 고통과 명예 훼손을 야기했다고 주장합니다. 세인트 클레어는 명예훼손, 사생활 침해, 그리고 개인의 초상에 대한 무단 상업적 사용으로부터 개인을 보호하는 캘리포니아의 퍼블리시티권 침해에 대한 손해 배상을 요구하고 있습니다. 또한 소송은 xAI가 그녀의 이미지를 사용한 딥페이크의 추가 제작 및 배포를 방지하기 위해 즉각적인 조치를 취할 것을 요구합니다.

"딥 러닝(deep learning)"과 "가짜(fake)"의 합성어인 딥페이크는 기존 이미지나 비디오 속의 사람을 다른 사람의 초상으로 대체하는 합성 미디어입니다. 이 기술은 정교한 AI 알고리즘, 특히 심층 신경망에 의존하여 얼굴 표정, 몸짓, 심지어 목소리까지 학습하고 복제합니다. 딥페이크는 엔터테인먼트 및 예술 분야에서 합법적인 용도로 사용될 수 있지만, 허위 정보 생성 및 비동의 포르노 제작을 포함한 오용 가능성은 심각한 윤리적, 법적 우려를 불러일으켰습니다.

세인트 클레어의 변호사인 캐리 골드버그는 성명에서 "이러한 딥페이크의 제작 및 유포는 개인, 특히 여성에게 심각한 위협이 됩니다"라고 말했습니다. "이번 소송은 이 유해한 기술을 가능하게 한 xAI의 역할에 책임을 묻고 AI 생성 콘텐츠에서 개인의 초상에 대한 무단 사용으로부터 개인을 보호하기 위한 법적 선례를 확립하는 것을 목표로 합니다."

xAI는 아직 소송에 대한 공식 성명을 발표하지 않았습니다. 그러나 회사는 이전에 AI 기술의 오용 가능성을 인정했으며 유해한 콘텐츠 생성을 방지하기 위한 안전 장치를 개발하겠다는 의지를 밝혔습니다. 최근 블로그 게시물에서 xAI는 딥페이크 또는 사용 정책을 위반하는 기타 형태의 합성 미디어 생성을 유도할 수 있는 프롬프트를 탐지하고 필터링하기 위한 노력을 설명했습니다.

이번 소송은 빠르게 진화하는 인공지능 분야와 사회에 미치는 잠재적 영향에 대한 조사가 강화되는 가운데 제기되었습니다. 전 세계의 입법자들과 규제 당국은 AI 혁신의 이점과 개인을 잠재적 피해로부터 보호해야 할 필요성 사이의 균형을 맞추기 위해 고심하고 있습니다. 세인트 클레어 사건은 AI 생성 콘텐츠와 관련된 법적 환경과 AI 개발자의 책임에 중요한 영향을 미칠 수 있습니다.

법률 전문가들은 이 사건이 새로운 기술에 기존 법률을 적용하는 것에 대한 복잡한 문제를 제기한다고 지적합니다. 노스캐롤라이나 대학교 미디어 법률 및 정책 센터의 공동 책임자인 데이비드 아디아 교수는 "기존의 명예훼손 및 퍼블리시티권 법률은 딥페이크에 쉽게 적용되지 않을 수 있습니다"라고 말했습니다. "법원은 AI 개발자가 사용자의 행위에 대해 책임을 져야 하는지, 그리고 딥페이크 제작이 개인의 초상에 대한 상업적 사용에 해당하는지 여부를 고려해야 할 것입니다."

이 사건은 캘리포니아 법원 시스템을 통해 진행될 것으로 예상되며, 초기 심리는 앞으로 몇 달 안에 예정되어 있습니다. 그 결과는 AI 생성 콘텐츠와 관련된 향후 소송에 대한 선례를 세우고 인공지능 사용을 규제하는 새로운 법률 및 규정 개발에 영향을 미칠 수 있습니다. 이번 법적 공방은 딥페이크 제작 및 배포에 대한 xAI의 직접적인 책임을 입증하고 회사 기술과 세인트 클레어가 입은 피해 사이의 명확한 연관성을 확립하는 데 달려 있을 것입니다.