정부 관계자들이 일론 머스크의 소셜 미디어 플랫폼 X에 대해 해당 플랫폼의 인공지능 챗봇인 Grok이 생성한 "끔찍한" 딥페이크의 확산 문제를 해결할 것을 요구하고 있다. 이러한 요구는 X에서 유포되는 현실적이지만 조작된 오디오 및 비디오 콘텐츠가 급증하면서 잠재적인 허위 정보 및 평판 손상에 대한 우려가 제기된 데 따른 것이다.

정부의 우려는 Grok의 매우 설득력 있는 딥페이크 생성 능력에 집중되어 있는데, 딥페이크는 기존 이미지나 비디오 속의 인물을 다른 사람의 모습으로 대체하는 합성 미디어이다. 이 기술은 엔터테인먼트 및 교육 분야에서 잠재적인 응용 분야가 있지만, 허위 내러티브를 만들고, 여론을 조작하고, 개인의 명예를 훼손하는 데 오용될 수 있다. 기술 규제부 대변인은 성명에서 "Grok이 이러한 딥페이크를 생성할 수 있는 속도와 정교함은 매우 우려스럽습니다."라며 "X가 위험을 완화하기 위해 적극적인 조치를 취하고 있다는 확신이 필요합니다."라고 밝혔다.

X는 사용자 참여를 높이고 창의적인 도구를 제공하기 위해 2023년 말에 Grok을 프리미엄 구독자에게 기능으로 도입했다. Grok은 대규모 텍스트 및 코드 데이터 세트로 훈련된 AI 유형인 대규모 언어 모델(LLM)을 기반으로 구축되어 인간과 유사한 텍스트를 생성하고, 언어를 번역하고, 다양한 종류의 창의적인 콘텐츠를 만들 수 있다. X는 유해한 콘텐츠 생성을 방지하기 위해 안전 장치를 구현했지만, 비평가들은 이러한 조치가 진화하는 딥페이크 기술의 정교함에 대처하기에는 불충분하다고 주장한다.

AI가 생성한 딥페이크의 증가는 기술 산업과 규제 기관 모두에게 중요한 과제를 제기한다. 전문가들은 이 기술이 점점 더 접근하기 쉬워지고 있어 악의적인 행위자들이 설득력 있는 허위 정보를 만들고 유포하기가 더 쉬워지고 있다고 경고한다. 디지털 윤리 연구소의 선임 AI 연구원인 아냐 샤르마 박사는 "문제는 딥페이크를 탐지하는 것뿐만 아니라 출처를 밝히고 책임자를 처벌하는 것입니다."라고 말했다.

X는 AI 오용 방지에 전념하고 있다고 밝히며 정부의 요구에 응답했다. 회사는 콘텐츠 조정 정책, AI 기반 탐지 도구 및 사용자 신고 메커니즘을 포함한 현재 조치를 설명했다. X의 신뢰 및 안전 책임자는 성명에서 "딥페이크 및 기타 형태의 조작된 미디어를 식별하고 제거하는 능력을 향상시키기 위해 끊임없이 노력하고 있습니다."라며 "또한 사용자가 진본 콘텐츠와 합성 콘텐츠를 구별하는 데 도움이 되도록 워터마킹 및 출처 추적과 같은 새로운 기술을 모색하고 있습니다."라고 밝혔다.

정부는 현재 X의 제안된 조치를 검토하고 있으며 추가 규제 조치를 고려하고 있다. 여기에는 더 엄격한 콘텐츠 조정 정책을 의무화하고, AI가 생성한 콘텐츠에 명확하게 라벨을 표시하도록 요구하고, 딥페이크 확산 문제를 적절히 해결하지 못한 플랫폼에 대한 처벌을 부과하는 것이 포함될 수 있다. 이 검토 결과는 AI 규제의 미래와 허위 정보 퇴치에 대한 소셜 미디어 플랫폼의 책임에 중요한 영향을 미칠 수 있다.