정부가 딥페이크 관련 법안 시행을 지연한다는 비판에 직면해 있으며, 특히 Grok AI의 등장과 그 오용 가능성이 이러한 비판을 부채질하고 있습니다. 비평가들은 이러한 지연으로 인해 사회가 설득력 있지만 허위인 오디오 및 비디오 콘텐츠를 생성하는 기술의 능력에 취약해지며, 이는 선거, 평판 및 공공의 신뢰에 잠재적으로 영향을 미칠 수 있다고 주장합니다.

이번 비판은 딥페이크 제작 및 배포를 규제하는 법률의 초안 작성 및 제정 속도가 느리다는 인식에 초점을 맞추고 있습니다. 국회의원들은 수개월 동안 이러한 법안의 구체적인 내용에 대해 토론하면서 표현의 자유 보호와 악의적인 기술 사용 억제 필요성 사이의 균형을 맞추는 데 어려움을 겪고 있습니다. AI 윤리 분야의 선두 연구원인 로라 크레스는 "우리는 수년 동안 딥페이크의 위험성에 대해 경고해 왔습니다. 행동을 늦출수록 이러한 기술은 더욱 정교해지고, 그로 인한 피해를 완화하기는 더욱 어려워질 것입니다."라고 말했습니다.

딥페이크는 고급 인공 지능 기술, 특히 딥러닝을 활용하여 시각 및 오디오 콘텐츠를 조작하거나 생성합니다. 생성적 적대 신경망(GAN)이 종종 사용되는데, 여기서 두 개의 신경망이 서로 경쟁합니다. 하나는 가짜 콘텐츠를 생성하고 다른 하나는 실제 콘텐츠와 구별하려고 시도합니다. 이러한 반복적인 과정을 통해 점점 더 현실적인 위조가 가능해집니다. 최근 출시된 대규모 언어 모델(LLM)인 Grok AI는 고급 텍스트 및 이미지 생성 기능으로 인해 광범위한 사용자가 정교한 딥페이크를 더 쉽게 만들 수 있게 되어 우려가 커지고 있습니다.

억제되지 않은 딥페이크 기술의 영향은 광범위합니다. 정치적 허위 정보 및 인물 암살 가능성 외에도 전문가들은 미디어 및 기관에 대한 신뢰가 무너질 수 있다고 경고합니다. 미디어 연구 교수인 아냐 샤르마 박사는 "사람들이 무엇이 진짜이고 무엇이 가짜인지 확실하게 구별할 수 없다면 우리 사회의 근간이 흔들릴 것입니다. 진실이 주관적이고 쉽게 조작될 수 있는 시대에 접어들 위험이 있습니다."라고 말했습니다.

여러 국가에서는 이미 합성 콘텐츠에 대한 고지 의무화, 해를 끼칠 의도로 딥페이크를 제작하거나 배포하는 행위를 범죄화하는 등 딥페이크에 대처하기 위한 규정을 시행하기 시작했습니다. 유럽 연합의 디지털 서비스 법(Digital Services Act)에는 딥페이크를 포함한 허위 정보 확산 방지를 목표로 하는 조항이 포함되어 있습니다.

정부는 우려 사항을 인지하고 있으며 이 문제를 해결하기 위해 노력하고 있다고 밝혔습니다. 법무부 대변인은 법안 초안 작성은 헌법적 권리와 기술적 타당성을 신중하게 고려해야 하는 복잡한 과정이라고 말했습니다. "우리는 표현의 자유를 보호하면서 딥페이크의 해악으로부터 국민을 보호하는 포괄적인 법적 프레임워크를 개발하기 위해 부지런히 노력하고 있습니다."라고 대변인은 말했습니다.

그러나 비평가들은 AI 기술의 빠른 발전과 딥페이크가 다가오는 선거에 사용될 가능성을 지적하며 여전히 회의적인 입장을 보이고 있습니다. 그들은 정부가 입법 과정을 가속화하고 즉각적인 위험을 완화하기 위한 임시 조치를 시행할 것을 촉구합니다. 이 논쟁은 앞으로 몇 주 동안 계속될 것으로 예상되며, 국회의원들에게 결정적인 조치를 취하라는 압력이 더욱 커질 것입니다.