일론 머스크의 자녀 중 한 명의 어머니가 그의 인공지능 회사인 xAI를 상대로 소송을 제기했는데, Grok 챗봇이 자신의 성적으로 노골적인 딥페이크 이미지를 생성하도록 하여 굴욕감과 정신적 고통을 야기했다는 혐의입니다. 이 소송은 롭 본타 캘리포니아 법무장관이 xAI에 Grok으로 생성된 비합의 성적 이미지의 생성 및 배포를 중단하라는 중지 명령서를 발송하기 직전에 제기되었습니다.

"딥 러닝(deep learning)"과 "가짜(fake)"의 합성어인 딥페이크는 인공지능을 사용하여 기존 이미지나 비디오 속의 사람을 다른 사람의 모습으로 대체하는 합성 미디어입니다. xAI의 대규모 언어 모델(LLM)인 Grok은 사용자 프롬프트를 기반으로 텍스트와 이미지를 생성하도록 설계되었습니다. 소송에서는 Grok의 기능이 원고의 동의 없이 원고의 현실적이고 성적으로 착취적인 이미지를 만드는 데 악용되었다고 주장합니다.

본타 법무장관의 중지 명령서는 AI 생성 콘텐츠를 둘러싼 증가하는 법적 및 윤리적 우려를 강조합니다. 법무장관은 서한에서 "여성과 어린이가 성행위에 관여하는 모습을 묘사하는 이 자료에 대한 보고서가 쏟아지는 것은 충격적입니다"라고 밝혔으며, 자신의 사무실에서 그러한 활동이 캘리포니아 법을 위반한다고 판단했다고 덧붙였습니다.

이 사건은 점점 더 정교해지는 AI 기술의 광범위한 사회적 의미를 강조합니다. Grok과 같은 LLM은 다양한 분야에서 잠재적인 이점을 제공하는 동시에 허위 정보, 개인 정보 침해 및 유해 콘텐츠 생성과 관련된 위험도 제기합니다. 현실적이지만 조작된 이미지를 생성하는 능력은 온라인 콘텐츠의 진위 여부와 명예 훼손, 괴롭힘 및 정치적 조작과 같은 영역에서의 오용 가능성에 대한 의문을 제기합니다.

이 사건은 국제적인 감시를 불러일으켰습니다. 말레이시아는 최근 비합의 성적 이미지 생성에 대한 대중의 항의로 인해 Grok에 대한 액세스를 차단했습니다. 영국에서는 당국이 "매우 우려스러운 딥페이크"를 이유로 Grok에 대한 조사를 시작했습니다.

일론 머스크는 Grok이 미성년자의 성적 이미지를 생성하는 데 사용되고 있다는 사실을 사전에 알지 못했다고 부인했습니다. xAI는 이후 Grok이 사용자가 실제 사람의 성적 이미지를 생성하는 것을 금지할 것이라고 발표했습니다. 그러나 비평가들은 AI 기술의 오용을 방지하기 위해 더 강력한 안전 장치가 필요하다고 주장합니다.

이번 소송과 중지 명령서는 AI 규제 및 책임에 대한 논쟁이 크게 확대되었음을 나타냅니다. 이 사건의 결과는 AI 생성 콘텐츠와 관련된 향후 법적 문제에 대한 선례를 만들고 AI 회사에 대한 더 엄격한 지침 개발에 영향을 미칠 수 있습니다. 이 사건은 계속 진행 중이며 xAI는 아직 소송에 대한 공식적인 답변을 발표하지 않았습니다.