영국 총리 관저(No. 10 Downing Street)는 이전 트위터로 알려진 X가 자체 인공지능 모델인 Grok으로 생성된 딥페이크 문제를 해결하기 위한 조치를 취하고 있다는 보고에 대해 긍정적인 입장을 표명했습니다. 이러한 움직임은 AI 생성 콘텐츠가 허위 정보 및 선전을 확산시키는 데 악용될 가능성에 대한 우려가 커지는 가운데 나온 것입니다.

총리 대변인은 정부가 첨단 AI 기술과 관련된 위험을 완화하려는 모든 노력을 환영한다고 밝혔습니다. 대변인은 "우리는 AI 분야에서 책임감 있는 혁신의 필요성을 분명히 해왔으며, 기업들이 잠재적인 피해를 해결하기 위해 적극적인 조치를 취하는 것을 고무적으로 생각합니다."라고 말했습니다.

"딥러닝(deep learning)"과 "가짜(fake)"의 합성어인 딥페이크는 기존 이미지나 비디오 속의 인물을 다른 사람의 모습으로 대체하는 합성 미디어입니다. X의 AI 모델인 Grok은 현실적인 이미지와 비디오를 생성할 수 있어 개인이나 사건에 대한 설득력 있지만 허위적인 묘사를 만드는 데 사용될 수 있다는 우려를 낳고 있습니다. 이 기술은 생성적 적대 신경망(GANs)에 의존하는데, 이는 일종의 머신 러닝 아키텍처로 두 개의 신경망이 서로 경쟁합니다. 하나는 가짜 콘텐츠를 생성하고 다른 하나는 생성된 콘텐츠를 실제 콘텐츠와 구별하려고 시도하며, 생성된 콘텐츠가 매우 현실적이 될 때까지 경쟁합니다.

X는 Grok으로 생성된 딥페이크에 대처하기 위해 시행하고 있는 조치에 대한 구체적인 세부 사항을 아직 공개하지 않았습니다. 그러나 업계 분석가들은 회사가 AI 생성 콘텐츠에 워터마크를 삽입하거나, 딥페이크를 탐지하는 알고리즘을 개발하거나, 더 엄격한 콘텐츠 조정 정책을 시행하는 등의 기술을 모색하고 있을 것으로 추측합니다. 워터마킹은 생성된 콘텐츠에 AI 생성 콘텐츠임을 식별하는 미묘하고 종종 보이지 않는 마커를 삽입하는 것을 의미합니다. 탐지 알고리즘은 조명 불일치, 부자연스러운 얼굴 움직임 또는 GAN 프로세스에 의해 도입된 인공물과 같은 조작의 징후가 있는지 이미지와 비디오를 분석합니다.

딥페이크의 증가는 정치, 미디어, 엔터테인먼트 등 다양한 분야에서 광범위한 우려를 불러일으켰습니다. 전문가들은 딥페이크가 여론을 조작하고, 명성을 훼손하고, 심지어 폭력을 선동하는 데 사용될 수 있다고 경고합니다. 특히 선거와 관련하여 딥페이크가 후보자에 대한 허위 정보를 퍼뜨리거나 유권자 투표율에 영향을 미치는 데 사용될 수 있다는 점에서 오용 가능성이 심각합니다.

영국 정부는 딥페이크와 관련된 위험을 해결하기 위한 조치를 포함하여 AI에 대한 규제 프레임워크를 적극적으로 고려해 왔습니다. 최근 발효된 온라인 안전법에는 딥페이크를 포함한 유해한 온라인 콘텐츠를 다루기 위한 조항이 포함되어 있습니다. 정부는 또한 AI 거버넌스를 위한 글로벌 표준을 개발하기 위해 국제 파트너와 협력하고 있습니다.

X가 Grok 딥페이크 문제를 해결하기 위해 어떤 구체적인 조치를 취할지, 그리고 이러한 조치가 얼마나 효과적일지는 아직 미지수입니다. 회사는 앞으로 몇 주 안에 더 자세한 내용을 발표할 것으로 예상됩니다. 모든 솔루션의 효과는 탐지 방법의 정교함과 X가 새롭게 떠오르는 위협에 얼마나 빨리 대응할 수 있는지에 달려 있을 것입니다. AI 기술의 지속적인 개발 및 배포에는 잠재적인 오용을 앞서 나가기 위한 끊임없는 경계와 적응이 필요합니다.