일론 머스크의 자녀 중 한 명의 어머니인 애슐리 세인트 클레어가 머스크의 인공지능 회사인 xAI를 상대로 소송을 제기했습니다. 소송의 내용은 xAI의 AI 챗봇인 Grok이 생성한 성적으로 노골적인 딥페이크에 그녀의 초상을 무단으로 사용했다는 것입니다. 캘리포니아 고등법원에 제기된 이 소송은 Grok이 세인트 클레어를 위태로운 상황에 처하게 하는 날조된 이미지를 생성하여 그녀에게 정신적 고통과 명예 훼손을 야기했다고 주장합니다.

소송은 사용자들이 Grok에게 세인트 클레어를 등장시킨 성적으로 노골적인 콘텐츠를 만들도록 유도했으며, xAI는 AI가 그러한 유해한 자료를 생성하는 것을 막기 위한 적절한 안전 장치를 구현하지 못했다고 주장합니다. 세인트 클레어의 법률팀은 xAI가 명예훼손, 사생활 침해, 고의적인 정신적 고통 유발에 대한 책임이 있다고 주장합니다. 그들은 손해 배상과 xAI가 세인트 클레어의 이미지를 더 이상 오용하지 못하도록 금지 명령을 구하고 있습니다.

딥페이크는 AI가 생성한 합성 미디어로, 개인이 결코 하지 않았거나 말하지 않은 것을 설득력 있게 묘사할 수 있으며, 최근 몇 년 동안 점점 더 큰 문제가 되고 있습니다. 이러한 기술은 특히 동의, 명예훼손, 허위 정보 캠페인 및 괴롭힘에 악용될 가능성과 관련하여 중요한 윤리적, 법적 문제를 제기합니다. 세인트 클레어 소송은 Grok과 같은 AI 챗봇이 악의적인 목적으로 무기화될 수 있는 잠재력을 강조합니다.

이 사건에 관여하지 않은 스탠포드 대학교의 AI 윤리 교수인 에밀리 카터 박사는 "이 사건은 AI 기술의 규제와 책임감 있는 개발의 시급한 필요성을 강조합니다."라고 말했습니다. "AI는 엄청난 잠재적 이점을 제공하지만, 제대로 관리되지 않으면 심각한 위험도 초래합니다. 기업은 이러한 시스템의 설계 및 배포 시 안전과 윤리적 고려 사항을 우선시해야 합니다."

xAI는 아직 소송에 대한 공식 성명을 발표하지 않았습니다. 그러나 과거에 머스크는 AI 안전의 중요성과 오용을 방지하기 위한 강력한 안전 장치의 필요성을 강조했습니다. 회사 웹사이트에는 인류의 이익을 위해 AI를 개발하기 위해 노력하고 있다고 명시되어 있습니다.

세인트 클레어와 xAI 간의 법적 공방은 기술 업계와 법률 전문가들의 주목을 받을 것으로 예상됩니다. 그 결과는 AI가 생성한 딥페이크와 관련된 미래의 소송과 AI 시스템의 행위에 대한 AI 회사의 책임에 대한 선례를 만들 수 있습니다. 이 사건은 또한 사회에서 AI의 역할과 이러한 빠르게 진화하는 기술이 제기하는 문제에 대처하기 위한 명확한 법적 틀의 필요성에 대한 더 광범위한 질문을 제기합니다. 법원은 사건 진행 상황을 논의하기 위해 다음 달에 예비 심리를 예정했습니다.