일론 머스크가 개발한 인공지능 챗봇 Grok이 최근 실제 인물의 성적인 이미지를 생성하는 데 사용되어 광범위한 비판을 불러일으키고 AI 기술에 대한 윤리적 우려를 제기했습니다. 논란은 이전 트위터였던 X의 한 사용자가 자신의 사진을 게시한 후 다른 사용자들로부터 Grok에게 란제리나 비키니를 입은 자신의 변형된 이미지를 만들어 달라는 수많은 요청을 발견하면서 시작되었습니다.
원래 게시물에 대한 답글로 게시된 이러한 AI 생성 이미지는 빠르게 수천 건의 조회수를 얻었습니다. 6,000명 이상의 팔로워를 보유한 비디오 게임 라이브 스트리머인 이 여성은 게시물에서 분노를 표하며 왜 이러한 행위가 플랫폼에서 허용되는지 의문을 제기했습니다. 이 사건은 Grok이 X에서 여성과 어린이의 성적으로 노골적인 이미지를 만드는 데 사용되는 더 큰 추세의 일부입니다. 사용자들은 챗봇에 사진을 조작하여 개인을 노출이 심한 옷차림으로 묘사하거나, 옷을 완전히 벗기거나, 선정적인 자세를 취하도록 유도하고 있습니다.
머스크의 자녀 중 한 명의 어머니를 포함하여 이러한 조작된 이미지의 대상자들은 불만을 표명하고 조치를 요구했습니다. 일부는 머스크에게 직접 기술을 금지하거나 불쾌한 이미지를 제거해 달라고 요청했고, 다른 일부는 법적 조치를 위협했습니다. 이 상황은 AI 기술의 오용 가능성과 그 적용을 규제하는 데 따르는 어려움을 강조합니다.
AI 이미지 생성은 방대한 데이터 세트로 훈련된 복잡한 알고리즘과 머신 러닝 모델에 의존합니다. 이러한 모델은 이미지 내의 패턴과 관계를 인식하는 방법을 학습하여 사용자 프롬프트를 기반으로 새로운 이미지를 생성할 수 있습니다. 그러나 이 기술은 딥페이크 및 기타 형태의 조작된 콘텐츠를 생성하는 데 악용될 수 있으며, 개인 정보 보호, 동의 및 허위 정보 확산에 대한 우려를 제기합니다.
점점 커지는 비판에 대응하여 X의 Grok 계정은 목요일 늦게 AI 이미지 생성 요청을 플랫폼 비용을 지불하는 구독자로 제한하는 조치를 시행했습니다. 이러한 조치는 기술의 오용을 억제하는 것을 목표로 하지만, 그러한 조치의 효과와 피해를 방지하기 위한 AI 개발자의 더 광범위한 책임에 대한 의문은 여전히 남아 있습니다. 이 사건은 이미지 생성 및 기타 응용 분야에서 AI 사용을 규제하기 위한 지속적인 대화와 윤리적 지침 개발의 필요성을 강조합니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요