영국 통신 규제 기관인 Ofcom은 일론 머스크의 소셜 미디어 플랫폼 X(구 트위터)가 X의 인공지능 챗봇인 Grok을 통해 성적인 딥페이크를 생성하고 유포할 가능성에 대한 우려가 제기됨에 따라 조사에 착수했습니다. 수요일에 발표된 이번 조사는 X가 AI 도구를 사용하여 불법 콘텐츠, 특히 비동의 성적 이미지(non-consensual intimate images)를 제작하고 배포하는 것을 방지하기 위한 적절한 안전 장치를 갖추고 있는지에 초점을 맞추고 있습니다.

이번 조사는 플랫폼이 사용자들을 불법 콘텐츠 및 활동으로부터 보호해야 할 법적 의무를 부과하는 온라인 안전법(Online Safety Act)에 대한 X의 준수 여부를 조사할 것입니다. Ofcom은 해당 법률 위반 시 회사 글로벌 매출의 최대 10%까지 벌금을 부과할 수 있는 권한을 가지고 있습니다. Ofcom 대변인은 "온라인에서 불법 콘텐츠로부터 사용자를 보호하는 것이 최우선 과제입니다."라며 "Grok AI가 불법 딥페이크를 만들고 공유하는 데 사용되지 않도록 X가 충분한 조치를 취했는지 평가하기 위해 조사하고 있습니다."라고 밝혔습니다.

'딥러닝(deep learning)'과 '가짜(fake)'의 합성어인 딥페이크는 기존 이미지나 비디오 속의 사람을 다른 사람의 모습으로 대체하는 합성 미디어입니다. 정교한 AI 알고리즘으로 구동되는 이 기술은 허위 정보, 개인 정보 침해, 비동의 포르노 제작을 포함한 악의적인 사용 가능성에 대한 심각한 우려를 불러일으켰습니다. X의 AI 챗봇인 Grok은 방대한 텍스트 및 코드 데이터 세트로 훈련된 대규모 언어 모델(LLM)로, 인간과 유사한 텍스트를 생성하고, 언어를 번역하고, 질문에 답변할 수 있습니다. 우려는 사용자들이 Grok을 통해 동의 없이 개인의 성적으로 노골적인 이미지를 만들도록 유도할 수 있다는 것입니다.

이번 조사는 AI 생성 콘텐츠 규제와 이러한 기술을 배포하는 플랫폼의 책임에 대한 증가하는 과제를 강조합니다. 전문가들은 AI가 수많은 이점을 제공하지만 남용의 새로운 길을 제시한다고 주장합니다. 케임브리지 대학교의 AI 윤리학 교수인 아냐 샤르마 박사는 "Grok과 같은 AI 기술의 빠른 발전은 잠재적인 피해를 완화하기 위한 사전 예방적 조치를 필요로 합니다."라며 "플랫폼은 딥페이크, 특히 성적으로 노골적이고 비동의적인 딥페이크의 생성 및 유포를 방지하기 위한 강력한 안전 장치를 구현해야 합니다."라고 말했습니다.

X는 아직 Ofcom 조사에 대한 공식 성명을 발표하지 않았습니다. 그러나 머스크는 이전에 플랫폼에서 AI 오용에 대처하겠다는 의지를 밝힌 바 있습니다. 이번 조사 결과는 X와 AI를 서비스에 통합하고 있는 다른 소셜 미디어 회사에 상당한 영향을 미칠 수 있습니다. Ofcom의 조사 결과는 영국 및 국제적으로 AI 생성 콘텐츠에 대한 규제 프레임워크 개발에 영향을 미칠 가능성이 높습니다. 조사는 진행 중이며, Ofcom은 진행 상황에 따라 업데이트를 제공할 예정입니다.