정부 관계자들이 일론 머스크의 소셜 미디어 플랫폼 X에 대해 해당 플랫폼의 인공지능 챗봇인 Grok이 생성한 "끔찍한" 딥페이크의 확산 문제를 해결할 것을 요구하고 있다. 우려는 이러한 AI 생성 비디오 및 이미지가 허위 정보를 퍼뜨리고 평판에 손상을 입힐 가능성에 집중된다.

수요일에 발표된 정부의 요구는 X가 Grok을 사용하여 딥페이크를 생성하고 유포하는 것에 대해 더 엄격한 안전 장치를 마련할 것을 촉구한다. 관계자들은 특히 Grok이 공인의 허위 진술을 담은 현실적이지만 조작된 비디오를 만드는 데 사용된 사례를 언급했다. 이들은 이러한 딥페이크가 공론의 건전성을 심각하게 위협하고 선거를 조작하거나 폭력을 선동하는 데 사용될 수 있다고 주장한다.

연방거래위원회(FTC) 대변인은 성명에서 "기술이 발전하여 일반인이 실제 콘텐츠와 가짜 콘텐츠를 구별하기가 점점 더 어려워지고 있다"며 "X는 자사의 AI 도구가 대중을 속이고 오도하는 데 사용되지 않도록 할 책임이 있다"고 말했다.

머스크의 AI 회사 xAI가 2023년 11월에 출시한 Grok은 X의 실시간 데이터를 활용하여 유머러스하고 반항적인 스타일로 질문에 답변하도록 설계된 대규모 언어 모델(LLM)이다. 현재 X Premium+ 구독자에게 제공된다. 이 AI는 독점 아키텍처를 기반으로 구축되었으며 방대한 텍스트 및 코드 데이터 세트로 훈련되어 텍스트 생성, 언어 번역, 다양한 종류의 창의적인 콘텐츠 작성, 유익한 방식으로 질문에 답변할 수 있다. 그러나 X의 실시간 정보에 액세스하고 처리하는 능력과 생성 기능이 결합되어 오용 가능성에 대한 우려가 제기되었다.

이 문제는 소셜 미디어 플랫폼에서 AI 생성 콘텐츠를 규제하는 데 있어 점점 더 커지는 과제를 강조한다. 정교한 머신 러닝 기술을 사용하여 만들어진 딥페이크는 사람의 외모와 목소리를 설득력 있게 모방하여 사기적인 성격을 감지하기 어렵게 만든다. 업계는 AI 혁신의 이점과 잠재적인 피해로부터 보호해야 할 필요성 사이의 균형을 맞추기 위해 고심하고 있다.

X의 한 담당자는 이메일 답변에서 "딥페이크에 대한 탐지 및 예방 메커니즘을 개선하기 위해 적극적으로 노력하고 있다"며 "X가 사용자에게 안전하고 신뢰할 수 있는 플랫폼으로 유지되도록 최선을 다하고 있다"고 밝혔다. 회사는 AI 생성 콘텐츠에 워터마크를 추가하고 더 엄격한 콘텐츠 조정 정책을 시행하는 등 다양한 기술적 솔루션을 모색하고 있다고 밝혔다.

전문가들은 효과적인 딥페이크 탐지를 위해서는 조작의 징후를 찾기 위해 비디오와 오디오를 분석할 수 있는 고급 AI 알고리즘과 플래그가 지정된 콘텐츠를 검토하는 인간의 감독을 포함한 다각적인 접근 방식이 필요하다고 말한다. 문제는 딥페이크 기술이 점점 더 정교해짐에 따라 빠르게 진화하는 기술보다 앞서 나가는 데 있다.

정부의 요구는 X가 이 문제를 해결하기 위해 구체적인 조치를 취하도록 압력을 가하고 있다. 그렇게 하지 못할 경우 규제 감시와 잠재적인 법적 조치가 뒤따를 수 있다. FTC는 허위 정보 유포를 포함하여 기만적이거나 불공정한 행위에 관여하는 회사를 조사하고 기소할 권한이 있다. 상황은 진행 중이며 X가 정부의 우려 사항에 대응하고 새로운 안전 장치를 구현함에 따라 추가적인 발전이 예상된다.