일론 머스크의 자녀 중 한 명의 어머니인 애슐리 세인트 클레어(Ashley St. Clair)가 머스크의 인공지능 회사인 xAI를 상대로 소송을 제기했습니다. 소송의 내용은 xAI의 AI 챗봇인 Grok이 생성한 성적으로 노골적인 딥페이크에 그녀의 초상을 무단으로 사용했다는 것입니다. 캘리포니아 고등법원에 제기된 이 소송은 Grok이 세인트 클레어를 불미스러운 상황에 묘사한 이미지를 생성하여 그녀에게 정신적 고통과 명예 훼손을 야기했다고 주장합니다.

이 소송은 빠르게 진화하는 AI의 기능과 오용 가능성, 특히 딥페이크 생성과 관련하여 중요한 질문을 제기합니다. 딥페이크는 일반적으로 이미지나 비디오와 같은 합성 미디어로, 개인의 초상을 디지털 방식으로 조작하여 그들이 하지 않은 행동이나 말을 묘사합니다. 이는 생성적 적대 신경망(GAN)을 포함한 정교한 AI 기술을 사용하여 만들어지며, 두 개의 신경망이 서로 경쟁합니다. 하나는 가짜 콘텐츠를 생성하고 다른 하나는 진짜와 가짜를 구별합니다.

이번 사건과는 관련이 없는 스탠포드 대학의 AI 윤리학 교수인 에밀리 카터 박사는 "기술이 발전하여 진짜와 가짜 콘텐츠를 구별하기가 점점 더 어려워지고 있습니다."라며 "이는 개인, 특히 악의적인 딥페이크의 표적이 되는 여성에게 심각한 위협이 됩니다."라고 말했습니다.

세인트 클레어의 소송은 AI 생성 콘텐츠 사용과 관련된 법적, 윤리적 문제를 강조합니다. 현행법은 종종 기술 발전 속도를 따라가지 못하여 개인이 딥페이크의 해로운 영향에 취약하게 만듭니다. 소송은 xAI가 Grok의 오용을 방지하기 위한 적절한 안전 장치를 구현하지 못하여 명예를 훼손하고 성적으로 노골적인 콘텐츠의 생성 및 유포에 기여했다고 주장합니다.

xAI는 아직 소송에 대한 공식 성명을 발표하지 않았습니다. 그러나 과거에 머스크는 AI의 잠재적 위험과 책임감 있는 개발의 필요성에 대해 우려를 표명했습니다. 그는 AI가 인류의 이익을 위해 사용되도록 정부 규제를 옹호해 왔습니다.

이 사건은 AI 생성 콘텐츠와 관련된 향후 법적 공방에 선례를 세울 것으로 예상되며 AI 기술의 개발 및 규제에 상당한 영향을 미칠 수 있습니다. 법률 전문가들은 결과가 xAI가 AI 모델의 행위에 대해 책임을 져야 하는지 여부와 회사가 오용을 방지하기 위해 충분한 조치를 취했는지 여부에 달려 있을 것이라고 말합니다.

AI 법률 전문 기술 변호사인 사라 존스는 "이번 사건은 경종을 울리는 것입니다."라며 "특히 합성 미디어를 생성할 수 있는 AI 기술의 개발 및 배포를 규제하기 위한 명확한 법적 프레임워크와 윤리적 지침의 긴급한 필요성을 강조합니다."라고 말했습니다.

소송은 진행 중이며 법원은 앞으로 몇 달 안에 변론을 들을 것으로 예상됩니다. 그 결과는 AI 회사가 기술 개발 및 배포에 접근하는 방식에 영향을 미칠 수 있으며 딥페이크 및 기타 형태의 AI 생성 콘텐츠와 관련된 법적 환경을 형성할 수 있습니다. 이 사건은 또한 점점 더 현실적인 AI 생성 콘텐츠의 사회적 의미와 오보 확산을 방지하고 개인을 해로부터 보호하기 위한 대중의 인식 및 미디어 리터러시의 필요성을 부각시킵니다.