영국 총리 관저(No. 10 Downing Street)는 이전 트위터로 알려진 X가 자체 인공지능 모델인 Grok을 사용하여 생성된 딥페이크 문제 해결을 위한 조치를 취하고 있다는 보고에 대해 긍정적인 입장을 표명했습니다. 이번 조치는 AI 생성 콘텐츠가 허위 정보 및 선전을 확산하는 데 악용될 수 있다는 우려가 커지는 가운데 나온 것입니다.

정부의 긍정적인 반응은 책임감 있는 AI 개발 및 배포를 위한 광범위한 노력의 일환입니다. 정부 대변인은 "AI 생성 딥페이크와 관련된 위험을 완화하려는 모든 노력을 환영합니다"라고 밝혔습니다. "기술 기업들이 자사의 기술이 악의적인 목적으로 사용되지 않도록 사전 예방적 조치를 취하는 것이 중요합니다."

'딥러닝(deep learning)'과 '가짜(fake)'의 합성어인 딥페이크는 기존 이미지나 비디오 속의 인물을 다른 사람의 모습으로 대체하는 합성 미디어입니다. X의 대규모 언어 모델인 Grok은 현실적인 텍스트와 이미지를 생성할 수 있어 설득력 있지만 조작된 콘텐츠를 만드는 데 사용될 수 있다는 우려를 낳고 있습니다. 이 기술은 생성적 적대 신경망(GAN)을 포함한 정교한 알고리즘을 사용하여 기존 데이터에서 패턴을 학습하고 복제합니다. GAN은 점점 더 현실적인 결과물을 생성하기 위해 서로 경쟁하는 생성자와 감별자라는 두 개의 신경망으로 구성됩니다.

Grok으로 생성된 딥페이크에 대응하기 위해 X가 시행하고 있다고 알려진 구체적인 조치는 아직 완전히 공개되지 않았습니다. 그러나 업계 전문가들은 AI 생성 콘텐츠에 워터마크를 삽입하고, 딥페이크 탐지 도구를 개발하고, 보다 엄격한 콘텐츠 관리 정책을 시행하는 방안이 포함될 수 있다고 추측합니다. 워터마킹은 AI에 의해 생성되었음을 나타내기 위해 이미지나 비디오에 미묘하고 종종 눈에 띄지 않는 신호를 삽입하는 것을 의미합니다. 탐지 도구는 머신 러닝 알고리즘을 사용하여 미디어를 분석하고 조작의 징후를 식별합니다.

딥페이크의 증가는 디지털 시대의 신뢰와 신뢰성에 심각한 과제를 제기합니다. 전문가들은 이러한 조작된 비디오와 이미지가 여론을 조작하고, 명성을 훼손하고, 심지어 폭력을 선동하는 데 사용될 수 있다고 경고합니다. 특히 선거와 정치 담론에 미치는 잠재적 영향이 우려됩니다.

다른 소셜 미디어 플랫폼과 AI 개발자들도 딥페이크 문제로 어려움을 겪고 있습니다. Meta 및 Google과 같은 회사는 플랫폼에서 조작된 미디어를 탐지하고 제거하기 위해 연구 개발에 막대한 투자를 해왔습니다. 기술 회사, 학계 및 시민 사회 단체 컨소시엄인 Partnership on AI는 AI 개발을 위한 윤리적 지침과 모범 사례를 개발하기 위해 노력하고 있습니다.

Grok 딥페이크에 대응하기 위한 X의 노력의 현재 상태는 불분명합니다. 자세한 내용은 앞으로 몇 주 안에 회사에서 발표할 것으로 예상됩니다. 정부는 상황을 면밀히 주시하고 기술 회사와 협력하여 AI 기술의 책임감 있는 개발 및 배포를 보장할 것이라고 밝혔습니다.