정부가 딥페이크 관련 법안 시행을 지연한다는 비판에 직면해 있으며, 특히 Grok AI의 등장과 그 오용 가능성이 부각되고 있습니다. 비평가들은 이러한 지연으로 인해 대중이 허위 정보와 조작에 취약해지고 있으며, 특히 AI 기술이 더욱 정교해지고 접근성이 높아짐에 따라 더욱 그렇다고 주장합니다.

이번 비판은 딥페이크 제작 및 배포를 규제하기 위해 제안된 법안의 진행 속도가 더디다는 인식에 초점을 맞추고 있습니다. 딥페이크는 기존 이미지나 비디오 속의 인물을 다른 사람의 모습으로 대체하는 합성 미디어로, 인공지능, 특히 딥러닝이라는 머신러닝의 한 유형을 사용하여 만들어집니다. 이 기술을 통해 매우 현실적이지만 완전히 조작된 콘텐츠를 만들 수 있습니다.

새로운 인공지능 모델인 Grok AI는 이 논쟁에 시급성을 더하고 있습니다. Grok AI 자체가 딥페이크를 생성하도록 설계된 것은 아니지만, 자연어 처리 및 이미지 생성 분야에서 뛰어난 기능을 통해 설득력 있는 가짜 콘텐츠를 더 쉽고 대규모로 제작하는 데 활용될 수 있습니다. 전문가들은 이로 인해 온라인 허위 정보 문제가 악화되고 진실한 정보와 조작된 정보를 구별하기가 더 어려워질 수 있다고 경고합니다.

AI 윤리 분야의 주요 옹호자인 로라 크레스는 "딥페이크 규제를 늦출수록 광범위한 조작과 제도에 대한 신뢰가 무너질 위험이 커집니다"라며 "Grok AI의 기능은 사전 예방적 법안의 시급한 필요성을 강조합니다"라고 말했습니다.

제안된 법안은 딥페이크 규제의 몇 가지 핵심 측면을 다루는 것을 목표로 합니다. 여기에는 콘텐츠가 합성 콘텐츠임을 나타내는 딥페이크에 대한 고지 의무화, 동의 없이 딥페이크에 묘사된 개인에 대한 법적 구제 수단 마련, 해를 끼치거나 선거를 방해하려는 의도로 딥페이크를 제작 및 배포하는 행위를 잠재적으로 범죄화하는 것이 포함됩니다.

정부는 문제의 복잡성과 의도치 않은 결과를 피하기 위한 신중한 고려의 필요성을 언급하며 자신들의 접근 방식을 옹호합니다. 관리들은 지나치게 광범위한 규제가 엔터테인먼트, 교육 및 예술적 표현과 같은 AI 기술의 합법적인 사용을 억압할 수 있다고 주장합니다. 또한 개인을 해로부터 보호해야 할 필요성과 표현의 자유 권리 간의 균형을 맞추는 것이 중요하다고 강조합니다.

정부 대변인은 "우리는 딥페이크로 인한 문제 해결에 전념하고 있지만, 효과적이면서도 헌법에 부합하는 방식으로 해결해야 합니다"라며 "제안된 법안을 신중하게 검토하고 전문가와 협의하여 적절한 균형을 이루도록 노력하고 있습니다"라고 밝혔습니다.

그러나 비평가들은 정부의 신중함이 사실상 무대응에 가깝다고 주장합니다. 그들은 이미 딥페이크 규정을 시행한 다른 국가들을 지적하며 미국이 이러한 증가하는 위협에 대처하는 데 뒤쳐지고 있다고 주장합니다. 예를 들어, 유럽연합은 디지털 서비스 법에 딥페이크에 대한 조항을 포함하여 플랫폼에 합성 콘텐츠에 라벨을 표시하도록 요구하고 있습니다.

딥페이크 규제에 대한 논쟁은 신흥 기술을 규제하는 데 있어 정부의 역할에 대한 근본적인 질문을 제기합니다. 또한 혁신과 개인 및 사회를 잠재적인 해로부터 보호해야 할 필요성 사이의 균형을 맞추는 과제를 강조합니다. AI 기술이 계속 발전함에 따라 정책 입안자들이 이러한 문제를 해결해야 한다는 압력은 더욱 커질 것입니다.

다음 단계는 하원 법사위원회에서 예정된 청문회로, 전문가와 이해 관계자들이 제안된 법안에 대해 논의하고 권고안을 제시할 예정입니다. 이 청문회의 결과는 미국의 딥페이크 규제의 미래에 상당한 영향을 미칠 수 있습니다.