영국 통신 규제 기관인 Ofcom은 이전 트위터로 알려진 X에 Grok AI 모델이 아동 성적 이미지 생성한다는 보고와 관련하여 정보 제공을 요청했습니다. 이번 요청은 생성형 AI 기술의 잠재적 오용과 유해 콘텐츠 생성 능력에 대한 우려가 커짐에 따라 이루어졌습니다.

규제 기관은 X가 그러한 이미지의 생성 및 유포를 방지하기 위해 마련한 안전 장치에 대한 세부 정보를 요구하고 있습니다. 이번 조사는 AI 개발자와 그들의 기술과 관련된 위험을 완화해야 할 책임에 대한 감시가 강화되고 있음을 강조합니다. Ofcom의 조치는 AI 분야의 혁신 장려와 취약 계층, 특히 아동을 온라인 유해로부터 보호하는 것 사이의 긴장을 보여줍니다.

Grok과 같은 생성형 AI 모델은 방대한 텍스트 및 이미지 데이터 세트로 학습되어 놀라운 속도와 사실성으로 새로운 콘텐츠를 생성할 수 있습니다. 그러나 이러한 기능은 악의적인 행위자가 이러한 모델을 악용하여 딥페이크, 선전 또는 이 경우와 같이 아동 성 학대 자료(CSAM)를 생성할 가능성도 제기합니다. 기술적 과제는 AI가 학습 데이터에 존재하는 유해한 패턴을 학습하고 복제하는 것을 방지하는 데 있으며, 이를 "AI 정렬"이라고 합니다.

Ofcom 대변인은 "AI가 유해 콘텐츠, 특히 아동을 착취하는 콘텐츠를 생성하는 데 사용될 가능성에 대해 깊이 우려하고 있습니다."라며 "X에 이러한 일이 발생하지 않도록 취하고 있는 조치에 대한 정보를 제공해 줄 것을 요청했습니다."라고 말했습니다.

X는 Ofcom의 요청에 대해 아직 공식 성명을 발표하지 않았습니다. 그러나 회사는 이전에 온라인 아동 착취 방지에 대한 의지를 표명했으며 플랫폼에서 CSAM을 탐지하고 제거하기 위한 조치를 시행했습니다. AI 생성 콘텐츠와 관련하여 이러한 조치의 효과는 아직 미지수입니다.

이번 사건은 AI 규제 및 책임 있는 개발과 배포를 보장하는 정부의 역할에 대한 더 광범위한 질문을 제기합니다. 일부 전문가들은 AI 모델에 대한 의무적인 안전 테스트 및 독립적인 감사를 포함하여 더 엄격한 규제를 옹호합니다. 다른 전문가들은 지나치게 제한적인 규제가 혁신을 억누르고 유익한 AI 애플리케이션 개발을 저해할 수 있다고 주장합니다.

옥스퍼드 대학교의 AI 윤리 연구원인 Anya Sharma 박사는 "이것은 쉬운 해답이 없는 복잡한 문제입니다."라며 "AI의 잠재적 해악으로부터 사회를 보호하고 혁신이 번성하도록 허용하는 것 사이에서 균형을 찾아야 합니다. 이를 위해서는 정부, 산업계 및 시민 사회가 참여하는 다자간 접근 방식이 필요합니다."라고 말했습니다.

Grok의 아동 성적 이미지 생성 혐의에 대한 조사가 진행 중입니다. Ofcom은 X가 제공한 정보를 검토하고 추가 조치가 필요한지 여부를 결정할 것으로 예상됩니다. 이번 조사의 결과는 영국 및 그 외 지역의 AI 규제 미래에 중요한 영향을 미칠 수 있습니다. 최신 개발 상황은 AI 개발자, 정책 입안자 및 아동 안전 옹호자 모두가 면밀히 주시할 것입니다.