자신의 얼굴이 인터넷에 도배되어 있는 것을 상상해 보세요. 하지만 입고 있는 옷이나 상황은 인공지능에 의해 완전히 조작된 것입니다. BBC 기술 에디터인 조 클라인만에게 이것은 가상 시나리오가 아니었습니다. 현실이었습니다. 클라인만은 최근 일론 머스크의 무료 AI 도구인 Grok이 자신의 이미지를 디지털 방식으로 변경하여 한 번도 입어본 적이 없는 옷을 입혔다는 사실을 발견했습니다. 클라인만은 실제 사진을 식별할 수 있었지만, 이 사건은 AI가 우리의 디지털 정체성을 얼마나 쉽게 조작할 수 있는지, 그리고 무엇이 진짜이고 무엇이 아닌지를 증명하는 데 따르는 어려움이라는 끔찍한 현실을 강조했습니다.

그러나 이 불쾌한 사건은 빙산의 일각에 불과합니다. Grok은 여성의 동의 없이 성적으로 노골적인 이미지를 생성하고, 심지어 더 충격적으로 아동의 성적 이미지를 생성하여 격렬한 비난을 받았습니다. 이러한 폭로로 인해 거센 분노가 촉발되었고 규제 당국의 신속한 조치가 촉구되었습니다.

영국의 온라인 규제 기관인 Ofcom은 Grok에 대한 긴급 조사에 착수하여 해당 AI 도구가 영국 온라인 안전법을 위반했는지 여부를 조사하고 있습니다. 정부는 Ofcom에 신속한 해결을 촉구하여 AI 생성 딥페이크로 인한 잠재적 피해를 해결해야 할 시급성을 강조하고 있습니다.

하지만 딥페이크는 정확히 무엇이며 왜 그렇게 우려되는 것일까요? 딥페이크는 일반적으로 이미지나 비디오와 같이 AI가 생성한 미디어로, 누군가가 결코 하지 않은 일이나 말하지 않은 일을 설득력 있게 묘사합니다. 딥페이크는 정교한 머신 러닝 기술을 활용하여 얼굴을 바꾸고, 음성을 변경하고, 시각적 콘텐츠를 조작합니다. 딥페이크는 무해한 엔터테인먼트에 사용될 수 있지만 오용될 가능성은 엄청납니다.

사회에 미치는 영향은 광범위합니다. 딥페이크는 허위 정보를 퍼뜨리고, 명예를 훼손하고, 심지어 폭력을 선동하는 데 악용될 수 있습니다. 정치 후보자가 선동적인 발언을 하는 조작된 비디오나 CEO가 회사의 재정적 붕괴를 발표하는 딥페이크를 상상해 보세요. 혼란과 조작의 가능성은 부인할 수 없습니다.

케임브리지 대학교의 AI 윤리 연구원인 클라라 존스 박사는 "이 기술이 발전하는 속도는 숨 막힐 정도입니다."라고 말합니다. "우리는 온라인에서 무엇이 진짜이고 무엇이 가짜인지 구별하기가 점점 더 어려워지는 시대에 접어들고 있습니다. 이는 기관, 미디어, 심지어 서로에 대한 신뢰를 약화시킵니다."

법률 환경은 AI의 급속한 발전을 따라잡기 위해 고군분투하고 있습니다. 기존 법률은 명예훼손 및 사칭을 다루고 있지만 딥페이크의 경우에는 종종 미흡합니다. 고려 중인 새로운 법률은 특히 개인을 괴롭히거나 협박하거나 사기치는 데 사용되는 악의적인 딥페이크의 생성 및 배포를 구체적으로 다루는 것을 목표로 합니다.

디지털 권리 변호사인 에밀리 카터는 "AI 오용에 대해 개인과 기업에 책임을 묻는 명확한 법적 프레임워크가 필요합니다."라고 주장합니다. "여기에는 딥페이크를 탐지하고 제거하기 위한 강력한 메커니즘을 구축하고 피해자를 위한 법적 구제 수단을 제공하는 것이 포함됩니다."

Grok에 대한 조사와 잠재적인 새로운 법률은 AI 생성 딥페이크와의 싸움에서 중요한 전환점을 나타냅니다. 이는 이 기술로 인한 잠재적 피해에 대한 인식이 높아지고 효과적인 안전 장치를 개발하겠다는 의지를 보여줍니다. 그러나 과제는 아직 끝나지 않았습니다. AI가 계속 발전함에 따라 딥페이크의 정교함도 높아질 것입니다. 앞서 나가려면 연구원, 정책 입안자 및 대중 간의 지속적인 경계, 협력, 윤리적인 AI 개발에 대한 헌신이 필요합니다. 디지털 시대의 진실의 미래는 그것에 달려 있을 수 있습니다.