공화당 상원 후보인 켄 팩스턴 텍사스 법무장관이 금요일에 공개한 광고에는 팩스턴이 도전하는 상대인 공화당 존 코닌 상원의원과 역시 상원 의원직에 출마한 민주당 재스민 크로켓 하원의원이 함께 춤추는 장면이 디지털 방식으로 조작되어 등장했다. 코닌 의원과 크로켓 하원의원 간의 정치적 연대감을 부각하려는 의도로 제작된 이 광고는 인공지능을 활용하여 텍사스 댄스홀과 미국 국회의사당을 배경으로 한 가짜 장면을 연출했다.

AI로 생성된 이 영상은 조작된 춤 장면과 함께 크로켓 하원의원이 코닌 의원을 칭찬하는 실제 영상, 그리고 코닌 의원이 크로켓 하원의원에 대해 호의적으로 발언하는 뉴스 보도를 교차 편집했다. 정치 분석가들에 따르면 이러한 전략은 두 후보의 당적 차이에도 불구하고 협력과 이념 공유라는 서사를 만들어내기 위한 것이었다.

정치 광고에서 AI를 사용하는 것은 선거에서 허위 정보와 조작의 가능성에 대한 심각한 우려를 불러일으킨다. AI는 현실적이지만 완전히 조작된 콘텐츠, 즉 "딥페이크"를 생성하는 능력을 통해 유권자들이 사실과 허구를 구별하는 데 어려움을 준다. 전문가들은 이러한 기술이 정치 기관과 선거 과정에 대한 신뢰를 약화시킬 수 있다고 경고한다.

텍사스 대학교의 정치학 교수인 에밀리 카터 박사는 "AI 기반 정치 광고의 등장은 선거 운동 전략의 새로운 지평을 열었습니다."라며 "정치 광고는 항상 정확성에 대한 면밀한 조사를 받아왔지만, AI가 설득력 있지만 허위적인 시나리오를 쉽게 만들 수 있다는 점은 유권자들의 미디어 리터러시와 비판적 사고 능력에 대한 새로운 집중을 필요로 합니다."라고 말했다.

이러한 AI 생성 비디오의 기술은 일반적으로 방대한 양의 시각 및 오디오 데이터를 분석하여 개인의 현실적인 시뮬레이션을 만드는 정교한 알고리즘을 포함한다. 기계 학습 모델의 일종인 생성적 적대 신경망(GAN)은 이러한 딥페이크를 생성하는 데 자주 사용된다. GAN은 점점 더 현실적인 가짜 콘텐츠를 만들기 위해 서로 경쟁하는 생성자와 판별자라는 두 개의 신경망을 포함한다.

유명 후보가 선거 운동 영상에서 AI를 활용한 것은 이번이 처음이 아니다. 앤드루 M. 쿠오모도 이전에 유사한 전술을 사용했다. 그러나 AI 도구의 접근성과 정교함이 증가함에 따라 이러한 사례가 향후 선거에서 더욱 보편화될 가능성이 높다.

이 광고는 정치 광고에서 AI 규제의 필요성에 대한 논쟁을 불러일으켰다. 일부는 허위 광고에 관한 기존 법률이 AI 생성 콘텐츠가 제기하는 고유한 문제를 해결하기에 충분하지 않을 수 있다고 주장한다. 다른 사람들은 AI가 콘텐츠를 생성하거나 변경하는 데 사용된 경우 이를 나타내는 의무적인 고지를 포함하여 더 엄격한 규제를 옹호한다.

월요일 현재 코닌 상원의원 측은 이 광고에 대한 공식적인 답변을 내놓지 않았다. 크로켓 하원의원 측은 AI를 사용하여 오해의 소지가 있는 콘텐츠를 만드는 것을 비난하며 이를 향후 선거에 대한 "위험한 선례"라고 규정하는 성명을 발표했다. 텍사스 윤리위원회는 현재 이 광고가 주법을 위반하는지 여부를 검토하고 있다.