가톨릭 사제이자 팟캐스터인 마이크 슈미츠 신부는 지난 11월 자신의 유튜브 구독자 120만 명 이상에게 인공지능 딥페이크가 자신을 사칭하여 신도들을 속이려 한다고 알렸습니다. 슈미츠 신부는 팔로워들에게 "자신의 입에서 나오는 말을 항상 믿을 수 없다"고 경고하며, 때로는 그것이 실제로 자신의 입이나 말이 아닐 수 있다고 덧붙였습니다.

딥페이크는 슈미츠 신부의 디지털 조작 버전을 특징으로 하며, 링크를 클릭하는 대가로 기도와 축복을 구걸합니다. 한 예에서 가짜 슈미츠 신부는 모래시계가 뒤에 드리워진 채 시청자들에게 "기도를 보낼 자리가 이미 부족해지고 있으니 빨리 행동하라"고 촉구했으며, 또 다른 가짜 슈미츠 신부는 뒤에 모래시계가 드리워진 채 "다음 여행은 4개월 후에나 있을 것이다"라고 말했습니다. 미네소타주 덜루스에 거주하는 실제 슈미츠 신부는 공익 광고에 AI가 생성한 사칭의 예를 포함하여 음성의 미묘한 로봇 같은 특징을 강조했습니다.

딥페이크는 기존 이미지나 비디오 속의 사람을 인공지능을 사용하여 다른 사람의 모습으로 대체하는 합성 미디어입니다. 이러한 AI 생성 위조는 점점 더 정교해져 일반인이 진정한 콘텐츠와 구별하기 어려워지고 있습니다. 이 기술은 기계 학습 알고리즘, 특히 딥 러닝을 사용하여 사람의 표정, 목소리 및 매너리즘을 분석하고 복제합니다. 이를 통해 악의적인 행위자는 사기, 허위 정보 캠페인 및 신원 도용을 포함한 다양한 기만적인 목적으로 설득력 있는 가짜 비디오 및 오디오 녹음을 만들 수 있습니다.

딥페이크 기술의 부상은 디지털 미디어에 대한 신뢰를 약화시키고 조작 가능성에 대한 우려를 제기하면서 사회에 심각한 과제를 제기합니다. 전문가들은 딥페이크 제작 도구의 접근성이 높아짐에 따라 취약 계층을 대상으로 하는 사기가 확산될 수 있다고 경고합니다.

슈미츠 신부는 사람들이 진짜와 가짜를 구별하는 데 어려움을 겪고 있다는 것을 인정했습니다. 슈미츠 신부는 "나는 그것들을 보고 '말도 안 돼, 나는 절대 그렇게 말하지 않을 거야'라고 말할 수 있습니다."라며 "하지만 사람들은 반드시 구별할 수 있는 것은 아닙니다. 그것이 문제입니다."라고 말했습니다.

법 집행 기관과 기술 회사는 딥페이크를 탐지하고 퇴치하기 위한 방법을 개발하기 위해 노력하고 있습니다. 이러한 노력에는 합성 미디어의 미묘한 불일치를 식별할 수 있는 알고리즘을 만들고 딥페이크와 관련된 위험에 대해 대중을 교육하는 것이 포함됩니다.