정부 관계자들이 일론 머스크의 소셜 미디어 플랫폼 X에 플랫폼의 인공지능 챗봇인 Grok이 생성한 "끔찍한" 딥페이크의 확산에 대한 해결을 요구하고 있습니다. 우려는 이러한 AI 생성 이미지 및 비디오가 잘못된 정보를 퍼뜨리고 특히 다가오는 선거를 앞두고 평판에 손상을 줄 가능성에 집중되어 있습니다.

어제 늦게 초당적인 상원 의원 그룹에서 발표한 이 요구는 X가 Grok을 사용하여 딥페이크를 생성하고 유포하는 것에 대해 더 엄격한 안전 장치를 시행할 것을 요구합니다. 특히 상원 의원들은 X가 콘텐츠 조정 정책을 강화하고, 딥페이크 탐지 기능을 개선하고, 사용자에게 AI 생성 허위 정보 의심 사례를 신고할 수 있는 더 명확한 메커니즘을 제공할 것을 촉구하고 있습니다.

캘리포니아주 민주당 상원 의원인 사라 첸은 보도 자료에서 "AI 기술의 빠른 발전은 기회와 과제를 동시에 제시합니다."라며 "Grok은 유용한 도구가 될 잠재력이 있지만, 설득력 있는 조작된 콘텐츠를 만드는 데 오용되는 것은 매우 우려스럽습니다. X는 플랫폼이 이러한 방식으로 무기화되는 것을 방지할 책임이 있습니다."라고 밝혔습니다.

기술적으로 합성 미디어로 알려진 딥페이크는 GAN(Generative Adversarial Networks)과 같은 딥러닝 기술을 기반으로 하는 정교한 AI 알고리즘을 사용하여 생성됩니다. GAN은 생성자와 감별자라는 두 개의 신경망이 함께 작동합니다. 생성자는 합성 콘텐츠를 생성하고, 감별자는 실제 콘텐츠와 가짜 콘텐츠를 구별하려고 시도합니다. 이러한 반복적인 과정을 통해 생성자는 점점 더 현실적인 위조품을 생산하는 데 능숙해집니다. 우려는 이러한 위조품이 개인을 사칭하고, 허위 정보를 퍼뜨리고, 여론을 조작하는 데 사용될 수 있다는 것입니다.

X는 2023년 말에 Grok을 플랫폼에 직접 통합된 기능으로 프리미엄 구독자에게 소개했습니다. Grok은 대화형 스타일로 질문에 답변하고 실시간 정보를 제공하도록 설계되었습니다. X는 유해한 콘텐츠의 생성 및 배포를 금지하는 정책을 시행하고 있지만, 비평가들은 이러한 정책이 AI 생성 딥페이크가 제기하는 고유한 문제를 해결하기에는 불충분하다고 주장합니다. 현재 플랫폼은 자동 탐지 시스템과 사용자 신고를 조합하여 위반 콘텐츠를 식별하고 제거하는 데 의존하고 있습니다.

업계 분석가들은 X가 사용자 신고에 의존하는 것이 심각한 약점이라고 지적합니다. 딥페이크는 신고되어 제거되기 전에 빠르게 확산될 수 있기 때문입니다. 또한 현재 딥페이크 탐지 기술은 완벽하지 않으며 정교한 위조품은 종종 탐지를 피할 수 있습니다. 스탠포드 대학교의 AI 연구원인 데이비드 리 박사는 "과제는 앞서 나가는 것입니다."라며 "AI 모델이 더욱 강력해짐에 따라 설득력 있는 딥페이크를 만드는 능력도 향상됩니다. 플랫폼은 최첨단 탐지 기술과 강력한 콘텐츠 조정 전략에 투자해야 합니다."라고 설명합니다.

X는 정부의 요구에 대해 아직 공식적인 답변을 내놓지 않았습니다. 그러나 최근 인터뷰에서 CEO 린다 야카리노는 회사가 허위 정보 퇴치에 전념하고 있으며 AI가 제기하는 문제에 대처하기 위한 새로운 방법을 적극적으로 모색하고 있다고 밝혔습니다. 야카리노는 "우리는 이 문제를 매우 심각하게 받아들이고 있습니다."라며 "딥페이크를 탐지하고 플랫폼에서 제거하기 위한 고급 기술을 개발하고 배포하기 위해 노력하고 있습니다."라고 말했습니다.

정부의 개입은 AI와 사회에 미치는 잠재적 영향에 대한 규제 감시가 증가하고 있음을 강조합니다. 여러 국가에서 현재 AI 기술의 개발 및 배포를 규제하기 위한 법안을 고려하고 있으며, 특히 딥페이크 및 기타 형태의 AI 생성 허위 정보와 관련된 위험을 해결하는 데 중점을 두고 있습니다. 예를 들어, 유럽 연합은 안면 인식 및 콘텐츠 조정과 같은 고위험 애플리케이션에서 AI 사용을 규제하는 조항을 포함하는 AI 법을 마무리하고 있습니다.

다음 단계는 제기된 우려 사항을 해결하기 위한 구체적인 계획을 개발하기 위해 정부 관계자와 X 담당자 간의 추가 논의가 포함될 가능성이 높습니다. 이러한 논의의 결과는 AI 규제의 미래와 허위 정보 퇴치에 대한 소셜 미디어 플랫폼의 책임에 중요한 영향을 미칠 수 있습니다.