정부는 딥페이크 방지 법안 시행을 지연시킨다는 비판에 직면해 있으며, 특히 Grok AI의 등장과 그 오용 가능성이 부각되고 있습니다. 비평가들은 이러한 지연으로 인해 사회가 허위 정보 캠페인 및 신원 도용을 포함한 이 기술의 악의적인 응용에 취약해진다고 주장합니다.

이번 비판은 딥페이크를 법적으로 정의하고, 오용에 대한 처벌을 규정하며, 제작 및 배포를 규제하는 것을 목표로 하는 법안의 더딘 진행 속도에 초점을 맞추고 있습니다. 저명한 AI 윤리 연구원인 로라 크레스는 "의미 있는 법안 제정을 늦출수록 딥페이크가 여론을 조작하고 기관에 대한 신뢰를 약화시키는 데 악용될 위험이 커집니다."라고 말했습니다.

"딥 러닝 페이크"의 줄임말인 딥페이크는 기존 이미지나 비디오 속의 인물을 다른 사람의 모습으로 대체하는 합성 미디어입니다. 이는 강력한 인공 지능 기술, 특히 딥 러닝 알고리즘을 사용하여 달성됩니다. 이러한 알고리즘은 방대한 양의 데이터를 분석하여 패턴을 학습한 다음 현실적인 위조물을 생성합니다. 이 기술은 최근 몇 년 동안 빠르게 발전하여 진본 콘텐츠와 조작된 콘텐츠를 구별하기가 점점 더 어려워지고 있습니다.

최근 출시된 인공 지능 모델인 Grok AI는 현실적인 텍스트와 이미지를 생성하는 고급 기능으로 인해 우려를 증폭시키고 있습니다. 전문가들은 Grok AI가 설득력 있는 딥페이크를 대규모로 생성하는 데 사용되어 악의적인 행위자가 허위 정보와 선전을 퍼뜨리는 것을 더 쉽게 만들 수 있다고 우려합니다. 이러한 강력한 AI 도구에 대한 쉬운 접근성은 규제 프레임워크의 시급성을 증폭시킵니다.

제안된 법안은 몇 가지 주요 영역을 다루는 것을 목표로 합니다. 딥페이크에 대한 명확한 법적 정의를 확립하여 풍자와 패러디와 구별하려고 합니다. 또한 누군가를 비방하거나 선거를 방해하는 등 악의적인 의도로 딥페이크를 제작하고 배포하는 개인 또는 조직에 대한 처벌을 제안합니다. 또한 이 법안은 투명성 요구 사항을 요구하여 딥페이크가 합성 콘텐츠임을 시청자에게 알리기 위해 명확하게 표시되도록 요구합니다.

그러나 일부에서는 지나치게 광범위한 법안이 영화 제작이나 예술적 표현과 같은 AI 기술의 합법적인 사용을 억압할 수 있다고 주장합니다. 사회를 해악으로부터 보호하고 혁신을 촉진하는 것 사이에서 적절한 균형을 찾는 것이 정책 입안자에게 중요한 과제입니다.

정부는 모든 법안이 효과적이고 의도치 않은 결과를 초래하지 않도록 신중하고 사려 깊은 접근 방식을 취하고 있다고 밝히며 자체적인 접근 방식을 옹호했습니다. 관계자들은 문제의 복잡성과 기술 회사, 법률 전문가 및 시민 사회 단체를 포함한 광범위한 이해 관계자와 협의해야 할 필요성을 강조했습니다.

법안의 현재 상태는 의회 상임위원회의 검토를 받고 있다는 것입니다. 위원회는 전체 의회에 권고하기 전에 추가 청문회를 열고 추가 의견을 구할 것으로 예상됩니다. 법안에 대한 최종 투표 일정은 여전히 불확실합니다. 법안을 둘러싼 논쟁은 계속될 것으로 예상되며, 양측의 이해 관계자들은 각자의 입장을 옹호할 것입니다. 그 결과는 AI 규제의 미래와 사회에 미치는 영향에 큰 영향을 미칠 것입니다.