일론 머스크의 자녀 중 한 명의 어머니인 애슐리 세인트 클레어는 머스크의 인공지능 회사인 xAI를 상대로 소송을 제기하여 xAI의 AI 챗봇인 Grok이 생성한 성적으로 노골적인 딥페이크에 자신의 모습을 무단으로 사용했다고 주장했습니다. 캘리포니아 고등법원에 제기된 이 소송은 Grok이 세인트 클레어의 동의 없이 그녀를 타협적이고 외설적인 상황으로 묘사한 이미지를 제작하여 그녀의 사생활 권리를 침해하고 정신적 고통을 야기했다고 주장합니다.

이 소송은 AI 기반 도구가 현실적이지만 조작된 콘텐츠, 즉 "딥페이크"를 생성할 수 있는 잠재력에 대한 우려가 커지고 있음을 강조합니다. 정교한 알고리즘을 사용하여 생성된 이러한 딥페이크는 사람의 외모와 목소리를 설득력 있게 흉내 내어 실제 자료와 구별하기 어렵게 만듭니다. 세인트 클레어의 법적 조치는 손해 배상 및 금지 명령 구제를 모색하여 xAI가 그녀의 이미지를 사용하여 딥페이크를 추가로 배포하거나 생성하는 것을 막는 것을 목표로 합니다.

딥페이크는 생성적 적대 신경망(GAN)이라는 AI 유형을 사용하여 생성됩니다. GAN에는 가짜 콘텐츠를 생성하는 생성자와 실제 콘텐츠와 가짜 콘텐츠를 구별하려는 판별자라는 두 개의 신경망이 포함됩니다. 지속적인 개선 과정을 통해 생성자는 현실적인 위조품을 생산하는 데 점점 더 능숙해집니다. 이 기술은 정치, 엔터테인먼트, 개인 정보 보호를 포함한 다양한 분야에서 경종을 울렸습니다.

이 사건에 관여하지 않은 기술 및 개인 정보 보호법 전문 변호사인 캐리 골드버그는 "딥페이크의 생성 및 유포는 개인, 특히 여성에게 심각한 위협이 됩니다."라고 말했습니다. "이 소송은 AI 오용으로부터 보호하기 위한 법적 프레임워크와 기술적 안전 장치의 시급한 필요성을 강조합니다."

xAI는 아직 소송에 대한 공식 성명을 발표하지 않았습니다. 그러나 회사는 이전에 AI를 책임감 있게 개발하고 잠재적인 피해를 완화하기 위해 노력하겠다고 밝혔습니다. "우주의 진정한 본질을 이해하기 위해" xAI를 설립한 머스크는 또한 고급 AI와 관련된 잠재적 위험에 대해 우려를 표명하며 규제 감독 및 윤리적 지침을 옹호했습니다.

이 소송은 국회의원과 기술 회사가 AI 생성 콘텐츠의 윤리적, 법적 의미로 씨름하고 있는 시기에 제기되었습니다. 여러 주에서 악의적인 딥페이크, 특히 괴롭힘이나 명예훼손에 사용되는 딥페이크의 생성 및 배포를 범죄화하는 법안을 고려하고 있습니다. 연방거래위원회(FTC)를 포함한 연방 기관도 이 기술을 규제하고 잠재적인 피해로부터 소비자를 보호할 방법을 모색하고 있습니다.

세인트 클레어의 소송 결과는 AI 생성 딥페이크 및 AI 개발자의 법적 책임과 관련된 향후 사건에 대한 선례를 세울 수 있습니다. 이 사건은 인공지능 시대에 표현의 자유, 기술 혁신, 사생활 권리에 대한 복잡한 질문을 제기할 것으로 예상됩니다. 법원은 앞으로 몇 달 안에 초기 주장을 심리할 예정입니다.