인도네시아와 말레이시아 당국이 xAI의 챗봇 Grok에 대한 접속을 일시적으로 차단했는데, 이는 동의 없이 제작된 성적 딥페이크 생성에 대한 우려 때문입니다. 이러한 조치는 AI가 생성한 이미지, 특히 실제 여성과 미성년자를 묘사하고 때로는 폭력적인 이미지를 소셜 네트워크 X에서 사용자 요청에 따라 Grok이 생성하는 것에 대한 가장 강력한 정부 대응입니다. X와 xAI는 모두 같은 회사에 속해 있습니다.
인도네시아 통신 및 디지털부 장관인 므틔아 하피드는 가디언 및 기타 언론에 토요일에 공유된 성명에서 정부가 동의 없는 성적 딥페이크 제작을 "디지털 공간에서 인권, 존엄성 및 시민의 안전에 대한 심각한 침해"로 간주한다고 밝혔습니다. 인도네시아 부처는 또한 X 관계자를 소환하여 이 문제를 논의한 것으로 알려졌습니다. 뉴욕 타임즈는 말레이시아 정부도 일요일에 유사한 금지 조치를 발표했다고 보도했습니다.
"딥 러닝(deep learning)"과 "가짜(fake)"의 합성어인 딥페이크는 인공 지능을 사용하여 기존 이미지나 비디오 속의 사람을 다른 사람의 모습으로 대체하는 합성 미디어입니다. 이 기술은 정교한 알고리즘, 종종 신경망을 기반으로 하여 얼굴 표정, 몸짓, 심지어 음성 패턴까지 분석하고 복제합니다. 딥페이크는 엔터테인먼트 및 교육 분야에서 합법적인 용도로 사용될 수 있지만, 특히 설득력 있지만 허위적이고 해로운 콘텐츠를 만드는 데 악용될 가능성이 있어 심각한 윤리적, 법적 우려를 불러일으키고 있습니다.
인도네시아와 말레이시아의 금지 조치는 Grok의 결과물에 대한 다른 정부 조치에 따른 것입니다. 이번 주 초, 인도 IT부는 xAI에 Grok이 외설적인 콘텐츠를 생성하지 못하도록 조치를 취할 것을 명령했습니다. 유럽 집행위원회는 또한 회사에 Grok과 관련된 모든 문서를 보관하라는 명령을 내렸으며, 이는 공식 조사로 이어질 수 있습니다.
이러한 금지 조치의 업계 영향은 상당할 수 있으며, AI 기반 챗봇 및 생성형 AI 플랫폼에 대한 감시와 규제가 강화될 가능성이 있습니다. 보다 자유분방하고 필터링되지 않은 AI 비서로 자리매김한 xAI의 Grok은 현재 주요 동남아시아 시장에서 어려움에 직면하고 있습니다. Grok의 제품 세부 정보에는 X 플랫폼과의 통합이 포함되어 사용자가 소셜 네트워크 내에서 직접 챗봇에 액세스할 수 있습니다. 이러한 통합은 사용자 참여를 향상시키기 위한 것이지만 논란의 여지가 있는 콘텐츠의 확산을 용이하게 했습니다.
현재 Grok은 인도네시아와 말레이시아에서 모두 차단된 상태입니다. 다음 개발 단계는 정부 관계자와 xAI 담당자 간의 논의를 통해 우려 사항을 해결하고 콘텐츠 조정 및 사용자 안전에 대한 지침을 설정하는 것일 가능성이 높습니다. 이러한 논의의 결과에 따라 Grok이 해당 국가에서 운영을 재개할 수 있는지 여부가 결정되며 전 세계적으로 AI 기술에 대한 규제 환경에 영향을 미칠 수 있습니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요