아동 성 학대 이미지 식별 및 삭제에 주력하는 영국 기반 자선 단체인 인터넷 감시 재단(IWF)은 일론 머스크의 xAI가 개발한 인공 지능 모델인 Grok이 생성한 것으로 보이는 이미지를 발견했다고 보고했습니다. 불법 콘텐츠에 대한 접근을 차단하기 위해 인터넷 서비스 제공업체와 협력하는 IWF는 화요일 발표된 성명에 따라 AI 생성의 특징을 식별한 후 해당 이미지에 플래그를 지정했습니다.

해당 이미지의 구체적인 성격은 IWF에서 공개하지 않았지만, 아동 성 학대 묘사와 관련되어 있음을 확인했습니다. IWF의 분석에 따르면 해당 이미지는 Grok을 사용하여 생성되었을 가능성이 높지만, AI 생성 콘텐츠의 진화하는 특성과 정확한 출처를 추적하기 어렵기 때문에 명확한 귀속은 여전히 어렵습니다.

IWF의 CEO인 수지 하그리브스 OBE는 보도 자료에서 "우리의 주요 관심사는 아동 보호입니다."라고 말했습니다. "AI 기술의 급속한 발전은 이 분야에서 새로운 과제를 제시하며, 우리는 이러한 유형의 콘텐츠를 효과적으로 식별하고 제거하기 위해 방법을 적용하기 위해 노력하고 있습니다."

xAI는 아직 IWF의 조사 결과에 대한 공식 성명을 발표하지 않았습니다. 그러나 회사 내부 프로세스에 정통한 소식통은 xAI가 주장을 조사하고 유해 콘텐츠 생성을 방지하기 위해 안전 프로토콜을 검토하고 있다고 밝혔습니다. 현재 X Premium+ 구독자에게 제공되는 Grok은 텍스트 생성, 언어 번역, 다양한 종류의 창의적인 콘텐츠 작성, 유익한 방식으로 질문에 답변하도록 설계된 대규모 언어 모델입니다. 광범위한 작업을 수행할 수 있도록 텍스트 및 코드의 대규모 데이터 세트로 훈련되었습니다.

이번 사건은 특히 아동 성 학대 자료 생성에서 AI 기술의 잠재적 오용에 대한 우려가 커지고 있음을 강조합니다. 해당 분야의 전문가들은 AI 모델이 현실적이고 쉽게 이용할 수 있는 이미지를 생성하는 데 악용되어 아동 안전에 심각한 위협을 가할 수 있다고 경고했습니다.

베를린 헤르티 스쿨의 윤리 및 기술 교수인 조안나 브라이슨 박사는 "이는 전체 AI 산업에 대한 경종입니다."라고 말했습니다. "개발자는 안전을 우선시하고 모델이 악의적인 목적으로 사용되지 않도록 강력한 안전 장치를 구현해야 합니다. 여기에는 고급 탐지 방법에 투자하고 IWF와 같은 조직과 협력하여 이러한 진화하는 위협에 대처하는 것이 포함됩니다."

IWF의 발견은 AI 콘텐츠 탐지에 대한 지속적인 연구 개발의 필요성을 강조합니다. 현재 방법은 이미지에서 특정 패턴이나 이상 징후를 식별하는 데 의존하는 경우가 많지만 AI 모델은 끊임없이 진화하고 있어 추세를 따라잡기가 어렵습니다. 이 조직은 기술 회사 및 법 집행 기관과 협력하여 AI 생성 아동 성 학대 자료를 식별하고 제거하기 위한 보다 정교한 도구를 개발하고 있습니다.

Grok이 생성한 이미지에 대한 조사가 진행 중입니다. IWF는 관련 당국과 협력하여 적절한 조치를 결정하고 있습니다. 이번 사건은 AI 기술 규제와 오용 방지에 대한 개발자의 책임에 대한 논쟁을 더욱 부채질할 가능성이 높습니다. 또한 이번 조사 결과는 xAI가 안전에 대한 약속을 입증하고 Grok이 유해 콘텐츠를 생성하는 것을 방지하기 위한 효과적인 조치를 구현해야 한다는 압력을 가하고 있습니다.