영국 총리 관저인 다우닝가 10번지는 이전 트위터로 알려진 X가 자체 인공지능 모델인 Grok을 이용해 생성된 딥페이크 문제 해결을 위해 조치를 취하고 있다는 보도에 대해 긍정적인 입장을 표명했습니다. 이번 조치는 AI로 생성된 콘텐츠가 오용되어 허위 정보를 퍼뜨리고 여론을 조작할 수 있다는 우려가 커지는 가운데 나온 것입니다.
총리 대변인은 정부가 특히 딥페이크와 관련하여 AI와 관련된 위험을 완화하려는 기술 회사의 모든 노력을 환영한다고 밝혔습니다. 대변인은 "우리는 책임감 있는 AI 개발 및 배치의 필요성을 분명히 해왔습니다."라며 "X와 같은 플랫폼이 오용 가능성에 대처하기 위해 사전 조치를 취하는 것은 고무적입니다."라고 덧붙였습니다.
딥페이크는 기존 이미지나 비디오 속의 인물을 다른 사람의 모습으로 대체하는 합성 미디어로, 생성적 적대 신경망(GAN)을 포함한 정교한 AI 기술을 사용하여 만들어집니다. GAN은 생성자와 판별자라는 두 개의 신경망으로 구성되어 함께 작동합니다. 생성자는 합성 콘텐츠를 만들고, 판별자는 실제 콘텐츠와 가짜 콘텐츠를 구별하려고 시도합니다. 이러한 반복적인 과정을 통해 생성자는 점점 더 현실적인 딥페이크를 생성하는 방법을 학습합니다.
자연어 처리 및 생성을 위해 설계된 AI 모델인 X의 Grok은 잠재적으로 현실적인 텍스트 기반 딥페이크를 만들거나 비디오 딥페이크용 스크립트를 생성하는 데 사용될 수 있습니다. Grok 관련 딥페이크 문제를 해결하기 위해 X가 취하고 있는 구체적인 조치는 아직 완전히 공개되지 않았지만, 업계 분석가들은 콘텐츠 조정 정책 시행, 탐지 도구 개발, AI 생성 콘텐츠 워터마크 삽입 등을 포함할 수 있다고 추측합니다.
딥페이크의 증가는 정보 생태계에 심각한 과제를 제기합니다. 전문가들은 이러한 조작된 미디어가 평판을 훼손하고, 불화를 조장하고, 심지어 선거에 영향을 미치는 데 사용될 수 있다고 경고합니다. 기술의 접근성과 정교함이 높아짐에 따라 진정한 콘텐츠와 조작된 콘텐츠를 구별하기 어려워져 미디어와 기관에 대한 신뢰가 무너지고 있습니다.
다른 소셜 미디어 플랫폼과 기술 회사들도 딥페이크 문제로 어려움을 겪고 있습니다. 많은 기업들이 미묘한 불일치나 인공물을 기반으로 조작된 미디어를 식별할 수 있는 AI 기반 탐지 도구에 투자하고 있습니다. 일부는 콘텐츠의 진위 여부를 확인하기 위해 블록체인 기술 사용을 모색하고 있습니다.
영국 정부는 딥페이크와 관련된 위험을 해결하기 위한 조치를 포함하여 AI에 대한 규제 프레임워크를 적극적으로 고려해 왔습니다. 최근 발효된 온라인 안전법에는 조작된 미디어를 포함한 유해한 온라인 콘텐츠를 다루기 위한 조항이 포함되어 있습니다.
Grok 딥페이크 문제를 해결하기 위한 X의 노력의 현재 상태는 불분명합니다. 자세한 내용은 앞으로 몇 주 안에 회사에서 발표할 것으로 예상됩니다. 정부 대변인은 AI가 제기하는 과제를 해결하고 책임감 있는 개발 및 사용을 보장하기 위해 정부, 산업계 및 시민 사회 간의 지속적인 협력의 중요성을 재차 강조했습니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요