아동 성 학대 이미지 식별 및 삭제에 주력하는 영국 기반 자선 단체인 인터넷 감시 재단(IWF)은 일론 머스크의 xAI가 개발한 인공 지능 모델인 Grok이 생성한 것으로 "보이는" 이미지를 발견했다고 보고했습니다. IWF는 해당 이미지를 문제 삼아 xAI에 보고했다고 이 단체가 발표한 성명에서 밝혔습니다.

이번 발견은 AI 모델이 악의적인 목적, 특히 아동 성 학대물(CSAM) 제작에 악용될 가능성에 대한 심각한 우려를 제기합니다. 이번 사건은 점점 더 정교해지는 AI 기술의 오용을 방지하는 데 있어 지속적인 과제를 강조합니다.

2023년 11월에 출시된 Grok은 텍스트 생성, 언어 번역, 다양한 종류의 창의적인 콘텐츠 작성, 유익한 방식으로 질문에 답변하도록 설계된 대규모 언어 모델(LLM)입니다. LLM은 방대한 텍스트 및 코드 데이터 세트로 학습되어 패턴을 학습하고 새로운 콘텐츠를 생성할 수 있습니다. 그러나 이러한 학습은 안전 장치가 효과적으로 구현되지 않으면 유해하거나 불법적인 콘텐츠를 재현할 가능성이 있다는 의미이기도 합니다.

IWF의 CEO인 수지 하그리브스 OBE는 보도 자료에서 "IWF의 주요 관심사는 아동의 안전입니다."라고 말했습니다. "우리는 이번 사건과 관련된 상황을 파악하고 향후 발생을 방지하기 위해 적절한 조치를 취할 수 있도록 xAI와 협력하고 있습니다."

xAI는 아직 IWF의 조사 결과에 대한 공식 성명을 발표하지 않았습니다. 그러나 회사는 이전에 AI를 책임감 있게 개발하고 잠재적인 위험을 완화하겠다는 약속을 밝혔습니다. 이번 사건은 xAI의 안전 프로토콜 및 콘텐츠 조정 정책에 대한 조사를 강화할 가능성이 높습니다.

이번 사건은 AI 모델에 의한 CSAM 생성을 방지하는 데 있어 광범위한 업계 전반의 과제를 강조합니다. 전문가들은 유해 콘텐츠를 탐지하고 제거하기 위해 강력한 필터링 메커니즘, 콘텐츠 조정 전략 및 지속적인 모니터링의 필요성을 강조합니다. 여기에는 AI 모델이 CSAM 생성을 식별하고 방지하도록 특별히 훈련되는 적대적 훈련과 같은 기술이 포함됩니다.

이번 개발은 전 세계 규제 기관이 AI를 규제하는 방법에 대해 고심하고 있는 시기에 이루어졌습니다. 예를 들어 유럽 연합의 AI 법은 고위험 애플리케이션을 다루는 특정 조항과 함께 AI 개발 및 배포를 위한 법적 프레임워크를 구축하고자 합니다. Grok과 관련된 사건은 AI 산업에서 더 엄격한 규제와 더 큰 책임의 필요성에 대한 논쟁을 촉발할 가능성이 높습니다.

IWF는 온라인에서 CSAM 확산을 방지하기 위해 xAI 및 기타 기술 회사와 계속 협력하고 있습니다. 이 단체의 노력에는 불법 콘텐츠 식별 및 보고, 유해 물질을 탐지하고 제거하는 도구 개발, 문제에 대한 인식 제고가 포함됩니다. Grok이 생성한 이미지에 대한 조사가 진행 중이며 xAI가 내부 검토를 수행함에 따라 자세한 내용이 나올 것으로 예상됩니다.