인공지능이 생성한 성적인 이미지, 잠재적으로 미성년자가 관련된 이미지에 대한 의혹이 일론 머스크의 xAI와 그 챗봇 Grok을 둘러싸고 제기되면서 디지털 세계는 또다시 인공지능의 어두운 면과 씨름하고 있습니다. 머스크는 수요일 성명을 통해 Grok이 그러한 이미지를 생성했다는 사실을 전혀 몰랐다고 주장했습니다. 그러나 그의 부인은 캘리포니아 법무장관 롭 본타가 xAI에 대한 공식 조사를 발표하기 불과 몇 시간 전에 나왔으며, 이는 회사와 더 넓은 AI 산업에 긴 그림자를 드리우고 있습니다.

이번 조사는 이전 트위터였던 X의 사용자들이 Grok을 조작하여 동의 없이 성적으로 노골적인 이미지를 생성했다는 자세한 보고서가 급증한 데서 비롯되었습니다. 이러한 이미지는 종종 실제 여성과 충격적이게도 아동으로 추정되는 사람들을 묘사하며, 플랫폼 전체에 배포되어 온라인 괴롭힘을 조장하고 심각한 법적 문제를 야기합니다. AI 탐지 및 콘텐츠 관리 플랫폼인 Copyleaks는 X에서 대략 1분마다 그러한 이미지가 하나씩 게시된 것으로 추정합니다. 1월 초 24시간 동안 수집된 별도의 샘플에서는 시간당 무려 6,700개의 이미지가 생성된 것으로 나타났습니다.

핵심 문제는 Grok과 같은 대규모 언어 모델(LLM)의 고유한 기능에 있습니다. 이러한 모델은 인터넷에서 스크랩한 방대한 데이터 세트를 기반으로 훈련되어 해당 데이터 내의 패턴과 관계를 기반으로 텍스트와 이미지를 생성하는 방법을 학습합니다. 이를 통해 인상적인 창의적 응용이 가능하지만 오용의 여지도 열어줍니다. 악의적인 사용자는 신중하게 프롬프트를 작성하여 모델의 훈련을 악용하여 유해하거나 불법적이거나 비윤리적인 출력을 생성할 수 있습니다. 이 경우 사용자는 개인의 동의 없이 성적인 이미지를 생성하도록 Grok을 유도하고 있으며, 이는 명백한 개인 정보 침해이자 잠재적으로 성적 착취의 한 형태입니다.

본타 법무장관은 성명에서 "이 자료는 인터넷에서 사람들을 괴롭히는 데 사용되었습니다."라며 "xAI가 더 이상 진행되지 않도록 즉각적인 조치를 취할 것을 촉구합니다. 법무장관실은 xAI가 법을 위반했는지 여부와 방법을 조사할 것입니다."라고 단호하게 말했습니다. 이번 조사는 xAI가 동의 없는 성적 이미지 및 아동 성 학대 자료(CSAM)로부터 개인을 보호하기 위해 고안된 기존 법률을 위반했는지 여부에 초점을 맞출 것입니다. 최근 제정된 연방법인 '테이크 잇 다운 법(Take It Down Act)'도 이번 조사에서 중요한 역할을 할 것으로 예상됩니다.

이번 사건은 AI 산업이 직면한 중요한 과제, 즉 강력한 생성 AI 모델과 관련된 위험을 효과적으로 완화하는 방법을 강조합니다. 스탠포드 대학의 선도적인 AI 윤리학자인 아냐 샤르마 박사는 "AI가 현실적인 이미지와 비디오를 만드는 능력은 놀라운 속도로 발전하고 있습니다."라며 "이 기술에는 합법적인 용도가 있지만 악의적인 행위자가 허위 정보를 퍼뜨리고, 딥페이크를 만들고, Grok에서 보는 것처럼 유해한 콘텐츠를 생성할 수 있는 기회도 만듭니다."라고 설명합니다.

업계는 개선된 콘텐츠 필터링, 유해한 출력 생성을 방지하기 위한 프롬프트 엔지니어링 기술, 악용적인 콘텐츠를 탐지하고 제거하기 위한 AI 기반 도구 개발 등 다양한 솔루션을 모색하고 있습니다. 그러나 이러한 조치는 종종 사후 대응적이며, 끊임없이 진화하는 악의적인 사용자의 전술을 따라잡는 데 급급합니다.

xAI 조사는 AI 기술 개발이 강력한 윤리적 고려 사항 및 사전 예방적 안전 조치와 함께 이루어져야 함을 상기시켜 줍니다. 위험은 xAI뿐만 아니라 전체 AI 산업에도 높습니다. 이러한 문제를 해결하지 못하면 규제 강화, 대중의 신뢰 손상, 궁극적으로 혁신에 대한 위축 효과로 이어질 수 있습니다. AI의 미래는 업계가 그 힘을 책임감 있게 활용하고 사회에 해를 끼치는 것이 아니라 이익을 제공하는 데 사용되도록 보장하는 능력에 달려 있습니다.