영국 총리 관저는 이전 트위터였던 X가 자체 Grok AI 모델을 사용하여 생성된 딥페이크 문제 해결을 위한 조치를 취하고 있다는 보도를 인지했습니다. 정부의 긍정적인 반응은 소셜 미디어 플랫폼에 AI 생성 허위 정보 확산 방지를 위한 압력이 증가하고 있음을 시사합니다.

X의 이러한 움직임은 대화형 AI 및 텍스트 생성을 위해 설계된 AI 모델인 Grok이 설득력 있지만 조작된 오디오 및 비디오 콘텐츠를 만드는 데 오용될 가능성에 대한 우려가 커지는 가운데 나왔습니다. 정교한 머신 러닝 기술을 활용하는 딥페이크는 개인을 사칭하고, 허위 정보를 퍼뜨리고, 여론을 조작하는 데 사용될 수 있습니다.

총리 관저 대변인은 "AI 생성 콘텐츠와 관련된 위험을 완화하려는 모든 노력을 환영합니다."라고 밝혔습니다. "플랫폼은 자체적으로 배포하는 기술에 대한 책임을 지고 오용을 방지하기 위해 적극적으로 노력해야 합니다."

일론 머스크의 인공지능 회사인 xAI가 개발한 Grok은 방대한 텍스트 및 코드 데이터 세트로 훈련된 대규모 언어 모델(LLM)입니다. Grok과 같은 LLM은 수십억 개의 매개변수를 가진 신경망을 사용하여 인간과 유사한 텍스트를 이해하고 생성합니다. 우려는 이 모델이 현실적인 스크립트와 대화를 생성한 다음 이미지 및 비디오 조작 기술과 결합하여 설득력 있는 딥페이크를 만들 수 있다는 데서 비롯됩니다.

X의 구체적인 조치에 대한 자세한 내용은 아직 제한적이지만, 업계 분석가들은 플랫폼이 탐지 알고리즘, 콘텐츠 조정 정책 및 사용자 신고 메커니즘을 조합하여 구현할 수 있다고 추측합니다. 탐지 알고리즘은 얼굴 움직임의 불일치 또는 부자연스러운 말투와 같은 AI 조작의 징후가 있는지 비디오 및 오디오 콘텐츠를 분석할 수 있습니다. 콘텐츠 조정 정책은 딥페이크에 대한 플랫폼의 입장과 이를 생성하거나 공유하는 사용자에 대한 결과를 간략하게 설명합니다. 사용자 신고 메커니즘을 통해 사용자는 X의 조정 팀에서 검토할 수 있도록 잠재적으로 유해한 콘텐츠에 플래그를 지정할 수 있습니다.

Grok과 같은 생성형 AI 도구의 부상은 소셜 미디어 플랫폼과 정책 입안자 모두에게 중요한 과제를 제시했습니다. 기존 규정은 AI 기술의 급속한 발전을 따라가지 못하는 경우가 많습니다. 예를 들어, 유럽 연합의 AI 법안은 위험 수준에 따라 AI 시스템을 규제하는 것을 목표로 하지만 딥페이크의 특정 위협을 해결하는 데 효과가 있을지는 미지수입니다.

X의 조치가 업계에 미치는 영향은 상당할 수 있으며, 다른 플랫폼이 따라야 할 선례를 세울 가능성이 있습니다. 딥페이크 기술이 더욱 정교해지고 접근성이 높아짐에 따라 소셜 미디어 회사가 이 문제를 적극적으로 해결해야 한다는 압력이 더욱 거세질 것입니다. 효과적인 탐지 및 완화 전략의 개발 및 배포는 대중의 신뢰를 유지하고 허위 정보 확산을 방지하는 데 매우 중요합니다.

X는 Grok에서 생성된 딥페이크를 해결하기 위한 구체적인 계획을 아직 발표하지 않았습니다. 자세한 내용은 앞으로 몇 주 안에 나올 것으로 예상됩니다.