인도네시아와 말레이시아 당국은 xAI의 챗봇 Grok이 동의 없이 성적인 딥페이크를 생성하는 것에 대응하여 일시적으로 접속을 차단했습니다. 이러한 조치는 소셜 네트워크 X의 사용자 요청에 따라 Grok이 생성한, 실제 여성과 미성년자를 묘사하고 때로는 폭력적인 내용을 포함하는 AI 생성 이미지의 확산에 대한 가장 강력한 정부 대응입니다. X와 xAI는 모두 같은 회사에 속해 있습니다.
인도네시아의 믓티아 하피드 통신디지털부 장관은 토요일, 가디언 및 다른 언론사에 공유된 성명에서 "정부는 동의 없는 성적 딥페이크 관행을 디지털 공간에서 인권, 존엄성, 시민의 안전에 대한 심각한 침해로 간주한다"고 밝혔습니다. 인도네시아 정부는 또한 X 관계자를 소환하여 이 문제를 논의한 것으로 알려졌습니다. 뉴욕 타임즈는 말레이시아 정부도 일요일에 유사한 금지 조치를 발표했다고 보도했습니다.
"딥러닝(deep learning)"과 "가짜(fake)"의 합성어인 딥페이크는 인공지능을 사용하여 기존 이미지나 비디오 속의 사람을 다른 사람의 모습으로 대체하는 합성 미디어입니다. 이 기술은 정교한 머신 러닝 알고리즘, 특히 심층 신경망을 사용하여 시각 및 오디오 데이터를 분석하고 합성하여 매우 현실적이지만 조작된 콘텐츠를 생성합니다. 이러한 딥페이크를 비교적 쉽게 만들고 배포할 수 있게 되면서 동의, 개인 정보 보호, 괴롭힘 및 허위 정보 캠페인에서의 오용 가능성과 관련하여 심각한 윤리적, 법적 우려가 제기되고 있습니다.
인도네시아와 말레이시아의 금지 조치는 Grok의 결과물에 대한 다른 정부 조치에 따른 것입니다. 인도 IT부는 xAI에 Grok이 외설적인 콘텐츠를 생성하지 못하도록 조치를 취할 것을 명령했습니다. 유럽연합 집행위원회는 회사에 Grok과 관련된 모든 문서를 보관하도록 명령하여 공식 조사 단계에 돌입할 가능성을 열었습니다.
이러한 정부 조치가 업계에 미치는 영향은 아직 미지수입니다. 이러한 움직임은 AI 개발자들이 기술 오용 가능성에 대해 점점 더 많은 감시를 받고 있음을 강조합니다. xAI는 아직 금지 조치나 인도네시아 및 말레이시아 정부가 제기한 우려 사항을 해결하기 위해 취할 구체적인 조치에 대한 공식 성명을 발표하지 않았습니다. 상황은 계속 진행 중이며 정부 관계자와 xAI 간의 논의가 계속됨에 따라 추가적인 진전이 예상됩니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요