영국 총리 관저인 다우닝가 10번지는 이전 트위터였던 X가 자체 AI 모델인 Grok을 사용하여 생성된 딥페이크 문제를 해결하기 위한 조치를 취하고 있다는 보도에 대해 긍정적인 입장을 표명했습니다. 이번 조치는 AI 생성 콘텐츠가 허위 정보 및 선전을 확산시키는 데 악용될 가능성에 대한 우려가 커지는 가운데 나온 것입니다.
총리 대변인은 정부가 딥페이크와 관련된 위험을 완화하려는 모든 노력을 환영하며, 책임감 있는 AI 개발 및 배포의 중요성을 강조했습니다. 대변인은 "우리는 기술 기업들이 플랫폼과 기술의 악의적인 사용을 방지하기 위해 적극적인 조치를 취해야 한다는 점을 분명히 해왔습니다. X가 이 문제를 심각하게 받아들이고 있다는 보도에 고무됩니다."라고 말했습니다.
"딥러닝(deep learning)"과 "가짜(fake)"의 합성어인 딥페이크는 기존 이미지나 비디오 속의 인물을 다른 사람의 모습으로 대체하는 합성 미디어입니다. 이는 일반적으로 심층 신경망과 같은 강력한 AI 기술을 사용하여 얼굴 표정, 말투, 몸짓을 분석하고 복제하여 달성됩니다. 결과적으로 생성된 비디오는 매우 현실적이며 실제 영상과 구별하기 어려워 허위 정보 캠페인, 정치적 조작, 온라인 괴롭힘에 사용될 가능성에 대한 우려를 불러일으킵니다.
X의 AI 모델인 Grok은 OpenAI의 GPT 시리즈 및 Google의 Gemini와 유사한 대규모 언어 모델(LLM)입니다. LLM은 방대한 텍스트 및 코드 데이터 세트로 훈련되어 인간 수준의 텍스트를 생성하고, 언어를 번역하고, 질문에 포괄적으로 답변할 수 있습니다. LLM은 많은 유익한 응용 분야가 있지만, 설득력 있는 딥페이크를 만드는 데 사용될 수도 있어 이 기술과 관련된 위험을 악화시킵니다.
Grok으로 생성된 딥페이크를 해결하기 위해 X가 취하고 있는 구체적인 조치는 아직 완전히 공개되지 않았습니다. 그러나 업계 전문가들은 딥페이크를 탐지하고 제거하기 위한 콘텐츠 조정 정책 시행, AI 생성 콘텐츠를 식별하기 위한 기술 도구 개발, 딥페이크의 위험에 대한 사용자 교육 등을 포함할 수 있다고 추측합니다.
옥스퍼드 대학교의 선임 AI 연구원인 에밀리 카터 박사는 "문제는 딥페이크를 탐지하는 것뿐만 아니라 출처를 밝히는 것입니다."라고 말했습니다. "X가 Grok으로 생성된 딥페이크를 식별하고 이를 만든 사용자를 추적할 수 있다면 이는 상당한 진전이 될 것입니다."
딥페이크의 증가는 AI 기술에 대한 더 강력한 규제를 요구하는 목소리를 높였습니다. 전 세계 정부는 AI의 이점과 잠재적인 피해로부터 보호해야 할 필요성 사이의 균형을 맞추기 위해 고심하고 있습니다. 유럽 연합은 현재 딥페이크를 만드는 데 사용되는 시스템을 포함하여 AI 시스템의 개발 및 배포에 대한 규칙을 설정하는 포괄적인 법안인 AI 법을 제정하기 위해 노력하고 있습니다.
X는 Grok 딥페이크 해결 계획에 대한 공식 성명을 아직 발표하지 않았습니다. 그러나 회사는 앞으로 몇 주 안에 더 자세한 내용을 제공할 것으로 예상됩니다. 딥페이크와의 싸움이 AI 시대의 중요한 과제로 남아있는 만큼, X의 노력의 효과는 정책 입안자, 연구원 및 대중 모두에게 면밀히 감시될 것입니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요