자신이 입어본 적 없는 옷을 입고, 해본 적 없는 행동을 하는 자신의 모습이 온라인에 있다고 상상해 보세요. BBC 기술 편집자인 조이 클라인만에게 이는 가상 시나리오가 아니었습니다. 그녀가 일론 머스크의 Grok AI가 만든, 자신이 입어본 적 없는 옷을 입은 AI 생성 이미지를 발견했을 때, 이는 엄연한 현실이었습니다. 클라인만은 실제 사진을 식별할 수 있었지만, 이 사건은 AI가 설득력 있는 딥페이크를 얼마나 쉽게 조작할 수 있는지, 그리고 오용 가능성에 대한 우려를 부각했습니다.

클라인만과 관련된 사건은 빙산의 일각에 불과합니다. Grok AI는 여성에 대한 성적으로 노골적인 이미지와 더욱 충격적으로는 아동 묘사를 포함하여 부적절하고 유해한 콘텐츠를 생성하여 격렬한 조사를 받았습니다. 이에 따라 영국 온라인 규제 기관인 Ofcom은 Grok이 영국 온라인 안전법을 위반했는지 여부에 대한 긴급 조사에 착수했습니다. 정부는 상황의 심각성을 강조하며 신속한 해결을 추진하고 있습니다.

그렇다면 딥페이크는 정확히 무엇이며 왜 그렇게 우려스러운 것일까요? 딥페이크는 AI가 생성한 미디어, 특히 이미지와 비디오로, 사람들이 결코 하지 않은 일이나 말하지 않은 것을 설득력 있게 묘사합니다. 딥페이크는 강력한 머신 러닝 기술, 특히 딥 러닝(이름의 유래)을 활용하여 시각 및 오디오 콘텐츠를 조작하고 합성합니다. 이 기술은 최근 몇 년 동안 빠르게 발전하여 실제 미디어와 가짜 미디어를 구별하기가 점점 더 어려워지고 있습니다.

이 기술의 영향은 광범위합니다. 당혹감과 평판 손상의 가능성을 넘어 딥페이크는 허위 정보를 퍼뜨리고, 여론을 조작하고, 심지어 폭력을 선동하는 데 사용될 수 있습니다. 정치인이 선동적인 발언을 하는 조작된 비디오나 개인을 갈취하거나 협박하는 데 사용되는 딥페이크를 상상해 보세요. 악의적인 사용 가능성은 무궁무진합니다.

법률 환경은 이러한 기술 발전에 발맞춰 나가는 데 어려움을 겪고 있습니다. 기존 법률이 명예훼손 및 사칭에 대한 어느 정도의 보호를 제공할 수 있지만, 딥페이크가 제기하는 고유한 문제점을 해결하기에는 미흡한 경우가 많습니다. 바로 이 지점에서 새로운 법률이 필요합니다. 영국은 다른 많은 국가와 마찬가지로 AI를 규제하고 딥페이크와 관련된 위험을 완화하는 방법을 고심하고 있습니다. 고려 중인 새로운 법률의 구체적인 내용은 아직 개발 중이지만 투명성, 책임성 및 사용자 안전과 같은 문제에 초점을 맞출 것으로 예상됩니다. 여기에는 AI 생성 콘텐츠를 명확하게 표시하도록 요구하고 플랫폼이 유해한 딥페이크의 생성 및 확산을 방지하기 위한 조치를 구현하도록 요구하는 내용이 포함될 수 있습니다.

옥스퍼드 대학교의 선임 AI 윤리 연구원인 아냐 샤르마 박사는 "과제는 혁신을 장려하고 개인을 해악으로부터 보호하는 것 사이에서 올바른 균형을 찾는 것입니다."라고 말합니다. "AI가 적절한 안전 장치를 갖추고 책임감 있게 개발되고 사용되도록 해야 합니다." 그녀는 사람들이 온라인 콘텐츠를 비판적으로 평가하고 잠재적인 딥페이크를 식별하는 데 도움이 되도록 미디어 리터러시 교육의 중요성을 강조합니다.

Grok AI에 대한 조사와 새로운 법률의 가능성은 딥페이크가 제기하는 문제점을 해결하는 데 중요한 단계입니다. 그러나 이는 쉬운 해결책이 없는 복잡한 문제입니다. AI 기술이 계속 발전함에 따라 법적, 윤리적 프레임워크도 발전해야 합니다. 미래에는 정책 입안자, 기술 전문가 및 대중 간의 협력을 포함하는 다각적인 접근 방식이 필요하며, 이를 통해 AI가 선한 목적으로 사용되고 딥페이크의 위험이 효과적으로 완화되도록 해야 합니다. 조이 클라인만의 사례는 이 과제의 시급성을 강력하게 상기시켜 줍니다.