텍사스 주 법무장관이자 공화당 상원 후보인 켄 팩스턴이 금요일에 공개한 광고에는 팩스턴이 도전하는 상대인 공화당 소속 존 코닌 상원의원과 민주당 상원 경선에 출마한 재스민 크로켓 하원의원이 함께 춤추는 디지털 조작 장면이 담겨 있었다. 코닌과 크로켓 간의 정치적 연대를 부각하려는 의도로 제작된 이 광고는 텍사스 댄스홀과 미국 국회의사당을 연상시키는 배경에서 두 사람이 춤추는 AI 생성 클립과 크로켓이 코닌을 칭찬하는 실제 영상, 그리고 코닌이 크로켓에 대해 호의적으로 발언하는 뉴스 보도를 교차 편집했다.

정치 광고에서 AI 사용은 선거에서 허위 정보와 조작 가능성에 대한 우려를 제기한다. 이 기술은 현실적이지만 완전히 조작된 시나리오를 만들어 사실과 허구의 경계를 모호하게 하고 유권자를 오도할 수 있다. 이번 사건은 AI 도구의 접근성이 높아지고 있으며 정치 담론에 미치는 잠재적 영향을 강조한다.

여기서 인공지능은 컴퓨터 시스템에 의한 인간 지능 프로세스 시뮬레이션을 의미한다. 특히 생성적 AI는 기존 데이터에서 학습한 패턴을 기반으로 이미지 및 비디오와 같은 새로운 콘텐츠를 만들 수 있다. 코닌-크로켓 광고는 이러한 기능을 보여주는 예로, AI 알고리즘을 사용하여 두 정치인이 함께 춤추는 영상을 생성했지만 실제로는 그런 일이 없었다.

전문가들은 AI 기술의 정교함과 경제성이 높아짐에 따라 향후 선거에서 AI 생성 콘텐츠가 확산될 가능성이 높다고 경고한다. 이는 유권자들에게 중요한 과제를 제시하는데, 유권자들이 진실한 정보와 조작된 정보를 구별하기 어려울 수 있기 때문이다. 매우 현실적이지만 가짜 비디오인 "딥페이크"가 여론에 영향을 미칠 가능성이 커지고 있다는 우려가 커지고 있다.

정치 캠페인에서 AI 사용이 완전히 새로운 것은 아니다. 앤드루 M. 쿠오모는 이전에 캠페인 비디오에서 AI 생성 장면을 사용했다. 그러나 팩스턴 광고는 이 기술의 정교함과 잠재적 영향력이 증가하고 있음을 강조한다.

AI 생성 정치 광고를 둘러싼 법적 및 규제적 환경은 여전히 진화하고 있다. 현재 정치 광고에서 AI 사용을 금지하는 특정 연방법은 없지만 명예훼손 및 허위 광고에 대한 기존 법률이 적용될 수 있다. 일부 주에서는 정치 광고에서 AI 생성 콘텐츠의 공개를 요구하는 법안을 고려하고 있다.

이러한 개발은 미디어 리터러시와 허위 정보 퇴치에 대한 소셜 미디어 플랫폼의 책임에 대한 의문을 제기한다. 팩트 체크 기관은 AI 생성 콘텐츠를 식별하고 폭로하기 위해 노력하고 있지만 AI 생성 콘텐츠 생성 속도와 규모는 상당한 과제를 제기한다. 소셜 미디어 회사들도 플랫폼에서 AI 생성 콘텐츠를 식별하고 라벨링하는 방법에 대해 고심하고 있다.

코닌과 크로켓 캠프는 아직 광고에 대한 공식 성명을 발표하지 않았다. 이번 사건은 AI가 정치 지형을 재편할 수 있는 잠재력과 디지털 시대에 경계심과 비판적 사고가 필요함을 일깨워주는 중요한 사례이다.