아동 성 학대 이미지 식별 및 삭제에 주력하는 영국 기반 자선 단체인 인터넷 감시 재단(IWF)은 일론 머스크의 xAI가 개발한 인공 지능 모델인 Grok이 생성한 것으로 "보이는" 이미지를 발견했다고 보고했습니다. 불법 콘텐츠에 대한 접근을 차단하기 위해 인터넷 서비스 제공업체 및 소셜 미디어 플랫폼과 협력하는 IWF는 일상적인 모니터링 활동 중에 이러한 사실을 발견했습니다.

IWF는 잠재적 피해자를 보호하고 해당 자료의 추가 배포를 방지해야 한다는 이유로 이미지 수나 정확한 성격에 대한 구체적인 내용은 공개하지 않았습니다. 그러나 대변인은 해당 이미지가 잠재적으로 AI가 생성한 아동 성 학대물(CSAM)로 분류되었다고 확인했습니다. 대변인은 "저희 분석 결과 이러한 이미지를 생성하는 데 AI가 관여했을 가능성이 높습니다."라고 말했습니다. "AI가 이러한 콘텐츠를 생성할 수 있는 속도와 규모는 온라인에서 어린이를 보호하려는 저희 노력에 상당한 어려움을 안겨줍니다."

2023년 11월에 출시된 Grok은 텍스트를 생성하고, 언어를 번역하고, 대화 방식으로 질문에 답변하도록 설계된 대규모 언어 모델(LLM)입니다. 현재 X의 구독 서비스 중 최고 등급인 X Premium+ 구독자에게 제공됩니다. Grok은 이전의 트위터였던 X의 실시간 정보에 액세스할 수 있는 능력과 "반항적"이고 유머러스한 어조로 다른 LLM과 차별화됩니다. xAI는 아직 Grok의 아키텍처 또는 훈련 데이터에 대한 자세한 기술 사양을 공개하지 않았습니다.

AI가 생성한 CSAM의 등장은 기술 업계와 아동 안전 옹호자들 사이에서 점점 더 큰 우려 사항입니다. 전문가들은 AI가 현실적이고 착취적인 이미지를 생성할 수 있는 용이성과 속도로 인해 기존 탐지 및 제거 시스템이 압도될 수 있다고 경고합니다. CSAM을 식별하는 현재 방법은 디지털 지문 채취 및 인간 검토에 의존하는 경우가 많으며, 이러한 기술은 AI가 생성한 콘텐츠의 급속한 확산에 발맞추기 어려울 수 있습니다.

옥스퍼드 대학교의 AI 윤리 전문가인 에밀리 카터 박사는 "이는 분수령이 되는 순간입니다."라고 말했습니다. "우리는 오랫동안 AI가 이러한 방식으로 오용될 가능성을 예상해 왔으며, 이제 그에 대한 구체적인 증거를 보게 되었습니다. 업계는 AI가 생성한 CSAM의 생성 및 배포를 방지하기 위한 강력한 안전 장치 개발을 우선시해야 합니다."

xAI는 아직 IWF의 조사 결과에 대한 공식 성명을 발표하지 않았습니다. 그러나 일론 머스크는 이전에 xAI가 AI를 책임감 있고 윤리적으로 개발하기 위해 노력하고 있다고 밝혔습니다. Grok이 CSAM을 생성하는 데 사용될 가능성에 대처하기 위해 xAI가 어떤 구체적인 조치를 취할지는 아직 미지수입니다. IWF는 xAI와 협력하여 정보와 조사를 지원하고 있습니다. 이번 사건은 AI가 생성한 아동 성 학대물의 진화하는 위협에 대처하기 위해 AI 개발자, 법 집행 기관 및 아동 보호 기관 간의 협력이 시급히 필요함을 강조합니다.