텍사스 주 법무장관이자 공화당 상원 후보인 켄 팩스턴이 금요일에 공개한 광고에는 팩스턴이 도전하는 공화당 소속 존 코닌 상원의원과 민주당 상원 경선에 출마한 재스민 크로켓 하원의원이 춤을 추는 디지털 조작 영상이 담겨 있었다. AI로 생성된 이 영상은 선거 공격 광고로 제작되었으며, 정치 광고에서 인공지능 사용이 증가하고 있다는 점을 부각하고 오보의 가능성에 대한 우려를 제기한다.

이 광고는 코닌과 크로켓이 텍사스 댄스홀과 미국 국회의사당 등 일련의 조작된 장면에서 "상원 스윙"과 "워싱턴 왈츠"를 추는 것처럼 묘사한다. 디지털 방식으로 제작된 춤 영상 사이사이에는 크로켓이 코닌을 칭찬하는 실제 영상과 코닌이 그녀에 대해 호의적으로 말하는 뉴스 보도가 삽입되어 있다.

팩스턴 선거 캠프는 광고의 의도나 메시지에 대한 성명을 발표하지 않았다. 정치 캠페인에서 AI를 사용하여 기만적인 콘텐츠를 만드는 것은 비교적 새로운 현상으로, 이러한 자료의 규제에 대한 윤리적, 법적 문제를 제기한다. 이러한 "딥페이크" 기술은 사람의 외모와 목소리를 설득력 있게 모방할 수 있는 정교한 알고리즘에 의존하므로 시청자가 실제 콘텐츠와 조작된 콘텐츠를 구별하기 어렵다.

전문가들은 정치 광고에서 AI로 생성된 콘텐츠가 확산되면 미디어와 정치 과정에 대한 대중의 신뢰가 무너질 수 있다고 경고한다. 텍사스 대학교 미디어 윤리학과의 에밀리 카터 박사는 "현실적이지만 완전히 조작된 영상을 만들 수 있는 능력은 정보에 입각한 의사 결정에 심각한 위협이 된다"며 "유권자들은 정보를 비판적으로 소비하고 조작 가능성에 대해 인지해야 한다"고 말했다.

AI 기반 광고 도구의 개발은 빠르게 진화하고 있으며, 점점 더 현실적이고 설득력 있는 콘텐츠를 만들기 위한 새로운 기술이 등장하고 있다. 연구자들은 AI로 생성된 콘텐츠를 탐지하는 방법을 모색하고 있지만, 이 기술은 AI 합성의 발전 속도를 따라잡기 위해 끊임없이 노력하고 있다. 연방선거관리위원회(FEC)는 현재 정치 광고에서 AI 사용에 대한 규정을 고려하고 있지만, 아직 공식적인 규칙은 제정되지 않았다. 텍사스 상원 선거는 면밀히 주시될 것으로 예상되며, 선거 캠페인 광고에서 AI 사용은 선거 기간 내내 반복되는 주제가 될 가능성이 높다.