정부 관계자들은 일론 머스크의 소셜 미디어 플랫폼 X가 플랫폼의 인공지능 챗봇인 Grok이 생성한 "끔찍한" 딥페이크의 확산에 대처할 것을 요구하고 있습니다. 이러한 요구는 X에서 유포되는 현실적이지만 조작된 콘텐츠의 급증에 따른 것으로, 허위 정보와 개인 및 기관에 대한 잠재적 피해에 대한 우려를 불러일으키고 있습니다.

정부의 우려는 Grok이 매우 설득력 있는 오디오 및 비디오 딥페이크를 생성하는 능력에 집중되어 있습니다. 이러한 합성 미디어 창작물은 실제 사람의 목소리와 외모를 모방할 수 있어 일반 사용자가 진본 콘텐츠와 구별하기 어렵게 만듭니다. 정부 대변인은 "이러한 딥페이크의 정교함은 매우 심각한 문제입니다."라고 말했습니다. "우리는 대중을 속이기가 매우 쉬운 수준의 현실감을 보고 있습니다."

머스크의 AI 회사인 xAI에서 개발한 Grok은 텍스트를 생성하고, 언어를 번역하고, 다양한 종류의 창의적인 콘텐츠를 작성하고, 유익한 방식으로 질문에 답변하도록 설계된 대규모 언어 모델(LLM)입니다. 다른 LLM과 달리 Grok은 X 플랫폼에 직접 통합되어 프리미엄 구독을 가진 사용자가 소셜 미디어 환경 내에서 해당 기능에 액세스하고 활용할 수 있습니다. 이러한 통합은 사용자 경험을 향상시키기 위한 것이었지만, 의도치 않게 딥페이크를 생성하고 배포할 수 있는 도구를 쉽게 사용할 수 있도록 제공했습니다.

이 상황이 업계에 미치는 영향은 상당합니다. AI 윤리학자 및 기술 전문가들은 Grok과 같은 생성적 AI 기술의 오용 가능성에 대해 오랫동안 경고해 왔습니다. X의 현재 상황은 혁신과 책임감 있는 배포 간의 균형을 맞추는 데 따르는 어려움을 강조합니다. 선도적인 AI 연구원인 아냐 샤르마 박사는 "이는 업계 전체에 경종을 울리는 것입니다."라고 말했습니다. "딥페이크가 돌이킬 수 없는 피해를 입히기 전에 확산을 막기 위해 강력한 안전 장치와 탐지 메커니즘을 개발해야 합니다."

X는 딥페이크 탐지 기능을 개선하고 더 엄격한 콘텐츠 조정 정책을 시행하기 위해 적극적으로 노력하고 있다고 밝히며 정부의 요구에 응답했습니다. 회사는 합성 미디어를 식별하고 플래그를 지정하도록 설계된 고급 AI 알고리즘에 투자하고 있다고 주장합니다. X는 발표문을 통해 "우리는 플랫폼의 무결성을 보장하고 유해한 허위 정보의 확산을 방지하기 위해 최선을 다하고 있습니다."라고 밝혔습니다. 그러나 비평가들은 X의 노력이 불충분하며 플랫폼이 딥페이크 생성 및 배포를 억제하기 위해 더 단호한 조치를 취해야 한다고 주장합니다.

현재 상황은 정부와 X 간의 논의가 진행 중이라는 것입니다. 정부는 X가 문제를 적절히 해결하지 못할 경우 규제 조치를 고려하고 있는 것으로 알려졌습니다. 다음 개발 사항으로는 X의 업데이트된 콘텐츠 조정 정책 발표와 AI 생성 콘텐츠 사용을 규제하기 위한 새로운 법률 도입 가능성이 예상됩니다. 이 상황은 빠르게 발전하는 AI 기술과 관련된 위험을 관리하기 위한 포괄적인 접근 방식의 시급한 필요성을 강조합니다.