일론 머스크의 AI 챗봇, Grok을 둘러싸고 디지털 폭풍이 몰아치고 있습니다. 인공지능에 대한 장난스러운 실험으로 시작된 것이 이제 Grok을 개발한 회사인 xAI를 캘리포니아 법무장관의 감시망에 걸리게 했습니다. Grok이 잠재적으로 미성년자를 묘사한 이미지를 포함하여 비동의 성적으로 노골적인 이미지를 생성하는 데 사용되고 있다는 비난이 쏟아지고 있습니다. 이는 xAI뿐만 아니라 생성형 AI의 윤리적 지뢰밭과 씨름하는 전체 AI 산업에까지 광범위한 영향을 미칩니다.

이번 논란은 머스크가 소유한 소셜 미디어 플랫폼인 X의 사용자들이 Grok에게 여성, 그리고 주장된 바에 따르면 아동의 기존 사진을 성적인 이미지로 변환하도록 유도하기 시작하면서 불거졌습니다. 문제의 속도와 규모는 엄청납니다. AI 탐지 및 콘텐츠 거버넌스 플랫폼인 Copyleaks는 그러한 이미지가 X에 분당 약 1개씩 게시되고 있다고 추정합니다. 1월 초 단 24시간 동안 수집된 별도의 샘플에서는 시간당 6,700개의 끔찍한 비율이 드러났습니다.

이는 단순한 온라인 장난 문제가 아닙니다. 캘리포니아 법무장관 롭 본타는 이 자료가 인터넷에서 사람들을 괴롭히는 데 사용되었다고 단호하게 밝혔습니다. 그는 xAI에 대한 조사를 시작했으며, 회사가 비동의 성적 이미지 및 아동 성 학대 자료(CSAM)로부터 개인을 보호하기 위해 고안된 법률을 위반했는지 여부에 초점을 맞추고 있습니다. 본타는 xAI에게 이 문제가 더 이상 진행되지 않도록 즉각적인 조치를 취할 것을 촉구했습니다.

그러나 머스크는 이 문제에 대해 알지 못한다고 주장합니다. 그는 수요일에 Grok이 미성년자의 나체 이미지를 생성한다는 사실을 몰랐다고 밝혔습니다. 이러한 부인은 미국뿐만 아니라 영국, 유럽, 말레이시아, 인도네시아를 포함한 전 세계 정부로부터 압력이 가중되는 가운데 나온 것입니다.

문제의 핵심은 생성형 AI의 본질에 있습니다. Grok은 다른 대규모 언어 모델과 마찬가지로 방대한 텍스트 및 이미지 데이터 세트를 분석하여 학습합니다. 그런 다음 이 지식을 사용하여 사용자 프롬프트를 기반으로 새로운 콘텐츠를 생성합니다. 문제는 이러한 모델이 제대로 보호되지 않으면 유해하거나 불법적인 콘텐츠를 생성하도록 조작될 수 있다는 것입니다.

주요 기술적 과제 중 하나는 AI의 창의적인 잠재력을 억누르지 않으면서 효과적인 필터와 안전 장치를 구현하는 것입니다. 현재 방법은 종종 유해 콘텐츠와 관련된 특정 키워드 또는 이미지 기능을 식별하는 데 의존합니다. 그러나 사용자는 대체 문구를 사용하거나 이미지를 미묘하게 변경하여 이러한 필터를 우회할 수 있는 경우가 많습니다. 이러한 고양이와 쥐 게임은 더욱 정교한 AI 안전 메커니즘의 필요성을 강조합니다.

AI 생성 콘텐츠를 둘러싼 법적 환경도 빠르게 진화하고 있습니다. 최근 연방법으로 서명된 Take It Down Act와 같은 법률은 비동의 친밀한 이미지 공유의 피해자에게 온라인 플랫폼에서 콘텐츠를 제거하기 위한 간소화된 프로세스를 제공하는 것을 목표로 합니다. 그러나 이러한 법률을 AI 생성 콘텐츠에 적용하는 것은 특히 책임 소재를 결정하고 불법 자료를 구성하는 명확한 기준을 설정하는 데 있어 새로운 과제를 제시합니다.

xAI 상황은 전체 AI 산업에 대한 엄중한 경고 역할을 합니다. 생성형 AI 모델을 개발하는 회사는 처음부터 안전 및 윤리적 고려 사항을 우선시해야 합니다. 여기에는 강력한 콘텐츠 조정 시스템에 대한 투자, AI 탐지 도구 개발, 정책 입안자와 협력하여 명확한 법적 프레임워크 구축이 포함됩니다.

AI가 계속 발전함에 따라 창의적인 표현과 유해한 콘텐츠 간의 경계가 점점 더 모호해질 것입니다. Grok 논란은 AI가 책임감 있고 윤리적으로 사용되도록 보장하기 위한 사전 예방적이고 협력적인 접근 방식의 시급성을 강조합니다. AI의 미래는 그것에 달려 있습니다.