정부 관계자들이 일론 머스크의 소셜 미디어 플랫폼 X에 대해, 해당 플랫폼의 인공지능 챗봇인 Grok이 생성하는 "끔찍한" 딥페이크의 확산 문제를 해결할 것을 요구하고 있다. 이러한 요구는 X에서 유포되는 현실적이지만 조작된 콘텐츠가 급증함에 따라 잠재적인 허위 정보 유포 및 평판 손상에 대한 우려가 제기된 데 따른 것이다.

정부의 우려는 Grok의 고도로 설득력 있는 가짜 이미지 및 비디오, 즉 딥페이크 생성 능력에 집중되어 있다. 첨단 머신 러닝 기술을 사용하여 만들어진 이러한 딥페이크는 개인이 실제로 하지 않은 말이나 행동을 묘사할 수 있다. 이 기술은 기존 이미지와 비디오를 분석하고 합성하여 새롭고 변형된 콘텐츠를 만드는 알고리즘에 의존한다. 관계자들은 Grok이 이러한 딥페이크를 얼마나 쉽게 생성할 수 있는지에 따라 X가 허위 정보 캠페인 및 악의적인 사칭의 온상이 될 수 있다고 우려한다.

기술 규제 부서의 대변인은 익명을 전제로 "Grok이 생성한 딥페이크의 정교함은 매우 우려스럽습니다."라며 "일반 사용자가 무엇이 진짜이고 무엇이 조작된 것인지 구별하기가 점점 더 어려워지는 사례를 보고 있습니다. 이는 공공의 신뢰와 잠재적으로 민주적 절차에 심각한 위협을 가합니다."라고 말했다.

작년 말에 출시된 X의 Grok AI는 사용자에게 대화형 AI 기능을 제공하여 질문에 답변하고, 텍스트를 생성하고, 이미지를 만들 수 있도록 설계되었다. X는 유해한 콘텐츠 생성을 방지하기 위한 안전 장치를 구현했지만, 비평가들은 이러한 조치가 빠르게 진화하는 딥페이크 기술의 능력에 대처하기에는 불충분하다고 주장한다. 회사는 AI 안전 프로토콜을 지속적으로 개선하기 위해 노력하고 있다고 밝혔다.

X의 AI 안전 팀은 성명을 통해 "Grok이 책임감 있고 윤리적으로 사용되도록 최선을 다하고 있습니다."라며 "Grok의 사용을 적극적으로 모니터링하고 있으며 정책을 위반하는 콘텐츠를 제거하고 탐지 기능을 개선하는 등 오용 사례를 해결하기 위한 조치를 취하고 있습니다."라고 밝혔다.

정부의 요구는 기술 혁신과 잠재적인 피해로부터 보호해야 할 필요성 사이의 커져가는 긴장을 강조한다. 인공지능 윤리 분야의 전문가들은 강력한 탐지 도구를 개발하고 딥페이크 기술 사용을 규제하기 위한 명확한 규정을 시행하는 것이 중요하다고 강조한다. 업계에 미치는 영향은 상당할 수 있으며, 더 엄격한 콘텐츠 조정 정책과 AI 기반 플랫폼에 대한 감시 강화로 이어질 수 있다.

현재 상황은 X가 딥페이크 문제 해결에 대한 의지를 입증해야 한다는 압박이 커지고 있다는 것이다. 정부는 X가 Grok의 딥페이크 기능과 관련된 위험을 완화하기 위한 적절한 조치를 취하지 않을 경우 추가 규제 조치를 고려할 것이라고 밝혔다. 다음 개발 사항으로는 일론 머스크의 공식 성명과 Grok에 대한 업데이트된 AI 안전 프로토콜 발표가 예상된다.