영국 총리 관저인 다우닝가 10번지는 이전 트위터로 알려진 X가 자체 인공지능 모델인 Grok으로 생성된 딥페이크 문제 해결에 나섰다는 보도에 대해 긍정적인 입장을 표명했습니다. 이번 조치는 AI로 생성된 콘텐츠가 허위 정보 및 선전을 확산시키는 데 악용될 가능성에 대한 우려가 커지는 가운데 나온 것입니다.
총리 대변인은 정부가 딥페이크 기술과 관련된 위험을 완화하려는 모든 노력을 환영한다고 밝혔습니다. 대변인은 "정부는 특히 AI로 생성된 콘텐츠와 관련하여 기술 기업들이 자사 플랫폼에서 호스팅되는 콘텐츠에 대한 책임을 져야 한다는 점을 분명히 해왔습니다."라며 "X가 이 문제를 심각하게 받아들이고 있다는 보도에 고무되어 있습니다."라고 덧붙였습니다.
딥페이크는 기존 이미지나 비디오 속의 인물을 다른 사람의 모습으로 대체하는 합성 미디어입니다. 이는 일반적으로 정교한 머신 러닝 기술, 특히 딥 러닝 알고리즘을 사용하여 달성되므로 "딥페이크"라는 이름이 붙었습니다. X의 AI 모델인 Grok은 텍스트와 이미지를 생성할 수 있어 현실적인 딥페이크를 대규모로 생성하는 데 사용될 수 있다는 우려를 낳고 있습니다.
딥페이크 기술의 산업적 영향은 상당합니다. 전문가들은 딥페이크가 미디어에 대한 신뢰를 떨어뜨리고, 여론을 조작하며, 심지어 금융 사기나 정치적 파괴 공작과 같은 악의적인 목적으로 사용될 수도 있다고 경고합니다. 접근성이 뛰어난 AI 도구의 확산으로 기술적 전문 지식이 제한적인 개인도 설득력 있는 딥페이크를 쉽게 만들 수 있게 되어 피해 가능성이 증폭되고 있습니다.
Grok으로 생성된 딥페이크에 대처하기 위한 X의 구체적인 조치에 대한 자세한 내용은 아직 제한적이지만, 보도에 따르면 회사는 AI로 생성된 콘텐츠에 워터마크를 추가하고, 서비스 약관을 위반하는 딥페이크를 제거하기 위한 콘텐츠 조정 정책을 시행하고, 합성 미디어를 식별하고 표시하는 탐지 도구를 개발하는 등 여러 가지 옵션을 모색하고 있습니다.
옥스퍼드 대학의 저명한 AI 연구원인 아냐 샤르마 박사는 "문제는 딥페이크를 탐지하는 것뿐만 아니라 출처를 밝히는 데에도 있습니다."라며 "X가 딥페이크를 Grok으로 효과적으로 추적할 수 있다면 책임 소재를 밝히는 데 중요한 진전이 될 것입니다."라고 말했습니다.
X는 아직 계획에 대한 공식 성명을 발표하지 않았지만, 사정에 정통한 소식통은 몇 주 안에 발표가 있을 것으로 예상한다고 밝혔습니다. 회사는 딥페이크 위협에 대한 포괄적인 접근 방식을 개발하기 위해 정부 규제 기관 및 업계 파트너와 긴밀히 협력하고 있는 것으로 알려졌습니다. AI 규제에 대한 논쟁이 계속 심화됨에 따라 X의 조치 효과는 정책 입안자와 대중 모두에게 면밀히 주시될 것입니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요