정부가 딥페이크 기술의 오용을 방지하기 위해 고안된 법안 시행을 지연한다는 비판에 직면해 있으며, 특히 고도로 현실적인 합성 미디어를 생성할 수 있는 새로운 인공지능 모델인 Grok AI의 등장으로 인해 이러한 비판이 더욱 거세지고 있습니다. 비평가들은 이러한 지연으로 인해 사회가 허위 정보 캠페인, 명예 훼손, 심지어 금융 사기와 같은 딥페이크의 잠재적 피해에 취약해진다고 주장합니다.

우려는 xAI에서 개발한 Grok과 같은 AI 도구의 정교함과 접근성이 높아지는 데 집중되어 있습니다. Grok은 다른 대규모 언어 모델(LLM)과 마찬가지로 방대한 데이터 세트를 사용하여 패턴을 학습하고 텍스트, 이미지 및 오디오를 생성합니다. 이러한 기능은 콘텐츠 제작 및 고객 서비스와 같은 분야에서 이점을 제공하는 동시에 개인이 결코 하지 않은 말이나 행동을 설득력 있게 묘사할 수 있는 조작된 미디어인 설득력 있는 딥페이크를 만들 수 있게 합니다.

AI 윤리 분야의 선도적인 전문가인 Laura Cress는 "딥페이크 규제를 늦출수록 광범위한 조작과 우리 기관에 대한 신뢰가 무너질 위험이 커집니다."라며 "Grok AI의 고급 기능은 이러한 우려를 증폭시켜 악의적인 행위자가 설득력 있는 위조물을 더 쉽게 만들고 유포할 수 있게 합니다."라고 말했습니다.

몇 달 동안 검토 중인 제안된 법안은 딥페이크 관련 피해를 해결하기 위한 명확한 법적 프레임워크를 구축하는 것을 목표로 합니다. 주요 조항으로는 악의적인 딥페이크의 생성 및 배포를 범죄화하는 조치, 합성 미디어에 대한 라벨링 요구 사항, 피해자가 구제받을 수 있는 메커니즘 등이 포함됩니다.

그러나 정부는 법안이 효과적이면서도 혁신을 저해하지 않도록 신중한 접근 방식을 취하고 있다고 주장합니다. 정부 대변인은 "우리는 딥페이크로 인한 위험에 대처하기 위해 노력하고 있지만, AI 기술의 합법적인 사용을 해칠 수 있는 의도치 않은 결과도 피해야 합니다."라며 "우리는 적절한 균형을 맞추기 위해 제안된 법안의 모든 측면을 신중하게 고려하고 있습니다."라고 밝혔습니다.

이러한 지연은 정책 입안자, 학계 및 업계 이해 관계자 간의 논쟁을 불러일으켰습니다. 일부는 정부가 시민 보호보다 기술 기업의 이익을 우선시하고 있다고 주장합니다. 다른 사람들은 광범위한 규제가 표현의 자유를 억압하고 유익한 AI 애플리케이션 개발을 저해할 수 있다고 경고합니다.

법안의 현재 상태는 불확실합니다. 정부는 법안을 추진할 의향을 밝혔지만 구체적인 일정은 발표되지 않았습니다. 전문가들은 법안이 확정되기 전에 추가적인 논쟁과 잠재적인 수정이 있을 것으로 예측합니다. Grok과 같이 점점 더 강력해지는 AI 모델의 지속적인 개발 및 배포는 효과적인 딥페이크 규제의 필요성에 대한 긴급성을 계속해서 부채질할 가능성이 높습니다.