정부가 딥페이크 방지 법안 시행을 지연시키고 있다는 비판에 직면해 있으며, 특히 Grok AI의 등장과 그 오용 가능성이 부각되고 있습니다. 비평가들은 규제 조치의 더딘 속도가 사회를 빠르게 진화하는 AI 생성 허위 정보의 위협에 취약하게 만들고 있다고 주장합니다.

우려는 딥페이크 기술의 정교함과 접근성이 증가하는 데 집중됩니다. 딥페이크는 본질적으로 기존 이미지나 비디오 속의 인물을 다른 사람의 모습으로 대체하는 합성 미디어입니다. 이는 정교한 머신 러닝 기술, 특히 딥 러닝 알고리즘을 통해 달성되므로 "딥페이크"라는 용어가 사용됩니다. 이러한 알고리즘은 방대한 양의 데이터를 분석하여 사람의 표정, 목소리 및 매너리즘을 학습하고, 이를 통해 조작된 시나리오에서 해당 개인을 설득력 있게 모방할 수 있습니다.

xAI가 개발한 대규모 언어 모델(LLM)인 Grok AI는 이러한 우려를 더욱 증폭시켰습니다. LLM은 방대한 텍스트 및 코드 데이터 세트로 훈련되어 인간 수준의 텍스트를 생성하고, 언어를 번역하고, 다양한 종류의 창의적인 콘텐츠를 작성하고, 유익한 방식으로 질문에 답변할 수 있습니다. Grok AI는 많은 합법적인 응용 분야가 있지만, 현실적인 텍스트를 생성하고 잠재적으로 오디오 및 비디오를 합성할 수 있는 능력은 허위 정보를 퍼뜨리거나, 여론을 조작하거나, 명성을 훼손하는 등 악의적인 목적으로 설득력 있는 딥페이크를 만드는 데 사용될 수 있다는 우려를 불러일으킵니다.

AI 윤리 및 정책 분야의 선도적인 전문가인 로라 크레스는 "정부의 무대응은 매우 우려스럽습니다."라고 말했습니다. "AI 기술이 기하급수적으로 발전하고 있으며, 우리의 법적 틀은 그 속도를 따라가지 못하고 있습니다. 강력한 규제를 시행하기를 오래 기다릴수록 광범위한 피해의 위험이 커집니다."

딥페이크 규제에 대한 논쟁은 복잡합니다. 한편으로는 AI 생성 허위 정보의 잠재적 피해로부터 개인과 사회를 보호해야 할 필요성이 있습니다. 다른 한편으로는 혁신을 억누르고 표현의 자유를 침해할 수 있다는 우려도 있습니다. 올바른 균형을 맞추는 것이 중요하지만, 비평가들은 정부가 행동보다 신중함을 우선시하여 위험이 이점보다 커지도록 방치하고 있다고 주장합니다.

여러 국가에서 이미 법률을 통해 딥페이크 문제를 해결하기 시작했습니다. 예를 들어, 유럽 연합은 딥페이크 라벨링 및 오용에 대한 책임자 처벌 조항을 포함하는 포괄적인 AI 규정을 고려하고 있습니다. 미국에서는 일부 주에서 악의적인 딥페이크의 생성 및 배포를 구체적으로 겨냥한 법률을 통과시켰습니다.

정부는 규제의 필요성을 인정했지만, 기술의 복잡성과 신중한 고려의 필요성을 지연 이유로 들었습니다. 관계자들은 딥페이크로 인한 문제점을 해결하는 동시에 AI 분야의 혁신을 촉진하는 포괄적인 프레임워크를 개발하고 있다고 밝혔습니다. 그러나 비평가들은 이 프레임워크 개발에 너무 오랜 시간이 걸리고 있으며, 정부가 대중을 보호하기 위해 더 단호하게 행동해야 한다고 주장합니다.

현재 상황은 정부가 여전히 법안을 작성 중이라는 것입니다. 시행에 대한 확정된 일정은 설정되지 않았습니다. 그동안 전문가들은 개인이 온라인에서 소비하는 정보에 대해 더욱 비판적이어야 하며, 딥페이크가 사람들을 속이고 조작하는 데 사용될 수 있다는 점을 인지해야 한다고 촉구하고 있습니다. 다음 단계는 이해 관계자와의 추가 협의 및 공청회를 위한 법안 초안 공개가 될 가능성이 높습니다. 향후 법률의 효과는 빠르게 진화하는 AI 기술 환경에 적응하고 사회 보호와 혁신 촉진 사이의 균형을 맞추는 능력에 달려 있습니다.