중국이 인공지능(AI) 제품 및 서비스에 대한 새로운 규정을 제안하고 있으며, 아동 보호와 유해 콘텐츠 방지에 초점을 맞추고 있습니다. 중국 사이버 공간 관리국(CAC)은 주말 동안 AI 개발자가 미성년자를 보호하고 자살 및 폭력과 관련된 잠재적 위험을 해결하기 위해 구현해야 하는 조치를 간략하게 설명하는 규칙 초안을 발표했습니다.

제안된 규정은 AI 기업이 아동 사용자를 위해 개인 맞춤 설정 및 사용 시간 제한을 제공하도록 요구합니다. 또한 정서적 교감 서비스를 제공하기 전에 보호자의 동의를 얻도록 의무화합니다. 이러한 움직임은 특히 AI 기반 챗봇의 가용성이 증가함에 따라 AI가 젊은이들에게 미칠 수 있는 잠재적 영향에 대한 우려가 커지고 있는 가운데 나온 것입니다.

CAC에 따르면 챗봇 운영자는 자살 또는 자해와 관련된 모든 대화에 대해 사람이 인계하도록 요구됩니다. 또한 그러한 상황에서 즉시 사용자의 보호자 또는 비상 연락처에 알려야 합니다. 이 규칙은 또한 AI 모델이 도박을 조장하는 콘텐츠를 생성하는 것을 방지하는 것을 목표로 합니다.

이 규정은 중국에서 빠르게 진화하는 AI 환경을 규제하기 위한 중요한 단계입니다. 이 기술은 안전 문제로 인해 올해 들어 감시가 강화되었습니다. 규칙이 확정되면 국내에서 운영되는 모든 AI 제품 및 서비스에 적용됩니다.

이러한 개발은 AI에 대한 규제적 관심이 증가하는 세계적인 추세를 반영합니다. 전 세계 정부는 AI의 이점을 활용하면서 잠재적 위험을 완화하는 과제와 씨름하고 있습니다. 예를 들어 유럽 연합은 자체적인 포괄적인 AI 법안을 추진하고 있습니다.

아동 보호와 유해 콘텐츠 방지에 대한 중국 정부의 초점은 책임감 있는 AI 개발을 장려하기 위한 광범위한 노력과 일치합니다. 이 규정은 AI 기술의 윤리적, 사회적 의미를 고려하는 것이 중요하다는 점을 강조합니다.

CAC는 아직 규정 확정 시기를 발표하지 않았습니다. 규칙 초안은 현재 공개 의견 수렴을 위해 공개되어 있으며, 행정부는 새로운 조치를 시행하기 전에 피드백을 고려할 것으로 예상됩니다. 이러한 움직임은 중국의 AI 산업에 상당한 영향을 미쳐 국내 AI 기술의 개발 및 배포를 잠재적으로 형성할 수 있습니다.