정부는 딥페이크 방지 법안 시행을 지연시키고 있다는 비난에 직면해 있으며, 특히 Grok AI의 등장과 그 오용 가능성이 부각되고 있다. 비평가들은 규제 조치의 더딘 속도가 사회를 점점 더 정교해지는 인공지능 기술의 악의적인 응용에 취약하게 만들고 있다고 주장한다.

우려는 xAI가 개발한 Grok과 같은 AI 모델이 매우 현실적이고 기만적인 오디오 및 비디오 콘텐츠를 생성하는 능력에 집중된다. 생성적 적대 신경망(GAN)과 같은 기술을 사용하여 만들어진 딥페이크는 실제 사람을 설득력 있게 모방할 수 있어 진본과 조작된 자료를 구별하기 어렵게 만든다. 이러한 능력은 허위 정보 캠페인, 평판 훼손, 심지어 정치적 조작에 대한 심각한 위험을 제기한다.

"기술은 기하급수적으로 발전하고 있지만, 우리의 법적 틀은 훨씬 뒤쳐져 있습니다."라고 기술대학교의 AI 윤리학 교수인 Anya Sharma 박사는 말했다. "돌이킬 수 없는 피해를 입히기 전에 악의적인 딥페이크의 생성 및 유포를 막기 위한 명확한 지침과 규정이 필요합니다."

생성적 적대 신경망(GAN)은 두 개의 신경망을 서로 대립시켜 작동한다. 하나의 네트워크인 생성기는 합성 데이터를 생성하고, 다른 네트워크인 판별기는 실제 데이터와 가짜 데이터를 구별하려고 시도한다. 이러한 반복적인 과정을 통해 생성기는 점점 더 현실적인 출력을 생성하는 방법을 학습하여 결국 설득력 있는 딥페이크를 만들게 된다.

제안된 법안은 딥페이크를 식별, 라벨링 및 제거하기 위한 법적 틀을 구축하여 이러한 문제에 대처하는 것을 목표로 한다. 또한 기만적인 콘텐츠를 제작하고 배포하는 개인 및 조직에 책임을 묻고자 한다. 그러나 이 법안은 의회 검토에서 지연되어 시민 단체와 기술 전문가들의 비판을 받고 있다.

디지털 자유 연합의 Mark Olsen 이사는 "효과적인 규제 없이 하루하루가 지나가는 것은 악의적인 행위자들이 이러한 기술을 처벌 없이 악용할 수 있는 또 다른 날입니다."라고 말했다. "정부는 이 문제를 우선시하고 딥페이크의 잠재적 해악으로부터 대중을 보호하기 위해 신속하게 행동해야 합니다."

정부는 이에 대해 기술의 복잡성으로 인해 혁신을 억압하거나 언론의 자유를 침해하는 것과 같은 의도치 않은 결과를 피하기 위해 신중한 고려가 필요하다고 주장한다. 또한 딥페이크는 국경을 쉽게 넘나들 수 있어 집행이 어렵기 때문에 국제 협력의 필요성을 강조한다.

디지털 업무부 대변인은 "우리는 딥페이크로 인한 위험에 대처하기 위해 노력하고 있지만, 효과적이고 비례적인 방식으로 대처해야 합니다."라고 말했다. "우리는 법안이 목적에 부합하고 AI의 합법적인 사용을 부당하게 제한하지 않도록 전문가 및 이해 관계자와 적극적으로 협의하고 있습니다."

법안의 현재 상태는 의회 위원회의 검토를 받고 있으며, 앞으로 몇 주 안에 추가 논의가 예상된다. 이러한 논의의 결과는 정부가 딥페이크 및 기타 AI 생성 콘텐츠와 관련된 위험을 효과적으로 완화할 수 있는 정도를 결정할 것이다. 다음 단계는 제안된 규정을 개선하고 다양한 이해 관계자가 제기한 우려 사항을 해결하기 위해 기술 회사 및 법률 전문가와의 추가 협의를 포함한다.