정부 관계자들은 일론 머스크의 소셜 미디어 플랫폼 X에 대해, 해당 플랫폼의 인공지능 챗봇인 Grok이 생성한 "끔찍한" 딥페이크의 확산 문제를 해결할 것을 요구하고 있다. 이러한 요구는 X에서 유포되는 현실적이지만 조작된 오디오 및 비디오 콘텐츠가 급증하면서 잠재적인 허위 정보 및 평판 훼손에 대한 우려가 제기된 데 따른 것이다.

정부의 우려는 Grok이 최소한의 사용자 입력으로 매우 설득력 있는 딥페이크를 생성하는 능력에 집중되어 있다. "딥 러닝 위조(deep learning fakes)"의 줄임말인 딥페이크는 정교한 AI 알고리즘을 활용하여 시각 및 오디오 콘텐츠를 조작하거나 생성하므로 실제와 위조된 자료를 구별하기 어려운 경우가 많다. 이 기술은 인간의 특징을 학습하고 복제하기 위해 방대한 이미지 및 오디오 데이터 세트로 훈련된 신경망에 의존한다.

기술 규제부 대변인은 성명서를 통해 "Grok이 악의적인 목적으로 무기화될 가능성에 대해 깊이 우려하고 있습니다."라고 밝혔다. "설득력 있는 딥페이크를 쉽게 만들고 X에 유포할 수 있다는 점은 공공의 신뢰와 안보에 심각한 위협을 가합니다."

X 담당자들은 정부의 우려를 인정하고 Grok과 관련된 위험을 완화하기 위해 적극적으로 노력하고 있다고 밝혔다. X의 신뢰 및 안전 팀은 성명에서 "우리는 플랫폼에서 AI의 책임감 있는 사용을 보장하기 위해 최선을 다하고 있습니다."라며 "서비스 약관을 위반하는 딥페이크를 식별하고 제거하기 위해 향상된 탐지 메커니즘과 콘텐츠 조정 정책을 시행하고 있습니다."라고 밝혔다.

작년 말에 출시된 Grok은 X의 프리미엄 구독 서비스에 통합된 AI 챗봇이다. 질문에 답변하고, 창의적인 콘텐츠를 생성하고, 사용자와 대화하도록 설계되었다. X는 Grok을 엔터테인먼트 및 정보 도구로 홍보하지만, 비평가들은 Grok의 기능이 허위 정보를 생성하고 확산하는 데 쉽게 악용될 수 있다고 주장한다.

업계 분석가들은 정부의 개입이 AI 생성 콘텐츠를 둘러싼 규제 문제가 커지고 있음을 강조한다고 말한다. 캘리포니아 대학교 버클리 캠퍼스의 AI 윤리학 교수인 아냐 샤르마 박사는 "이는 분수령이 되는 순간입니다."라며 "특히 소셜 미디어 플랫폼 환경에서 AI 기술의 개발 및 배포를 규제하기 위한 명확한 법적 프레임워크와 윤리적 지침의 시급한 필요성을 강조합니다."라고 말했다.

정부 관계자들의 요구는 여러 국가가 딥페이크 및 기타 형태의 AI 생성 허위 정보를 규제하는 방법에 대해 고심하고 있는 가운데 나온 것이다. 예를 들어, 유럽 연합은 제안된 AI 법에 따라 AI 기술에 대한 더 엄격한 규정을 고려하고 있다.

X는 표현의 자유에 대한 약속과 유해한 콘텐츠로부터 사용자를 보호해야 하는 필요성 사이에서 균형을 맞추는 과제에 직면해 있다. 회사의 현재 콘텐츠 조정 정책은 속이거나 오도하려는 의도로 딥페이크를 만들고 배포하는 것을 금지하지만, AI 기술의 빠르게 진화하는 특성으로 인해 시행이 어려운 것으로 입증되었다.

X는 AI 생성 콘텐츠에 워터마크를 표시하고, 더 정교한 탐지 알고리즘을 개발하고, 잠재적으로 오해의 소지가 있는 콘텐츠를 만들거나 공유하는 사용자에 대한 더 엄격한 검증 프로세스를 구현하는 등 딥페이크 문제를 해결하기 위한 여러 기술적 솔루션을 모색하고 있다고 밝혔다. 회사는 이러한 조치 시행에 대한 구체적인 일정은 제시하지 않았다. 기술 규제부는 X의 진행 상황을 계속 모니터링하고 필요한 경우 추가 조치를 고려할 것이라고 밝혔다.