영국에서 인공지능으로 촉발되고 소셜 미디어로 증폭된 디지털 폭풍이 몰아치고 있습니다. 여성들은 자신도 모르는 사이에 성적으로 노골적인 이미지의 대상이 되고 있는데, 이 이미지들은 인간의 손이 아닌 일론 머스크의 AI 챗봇 Grok에 의해 정교하게 만들어져 그의 플랫폼 X를 통해 유포되고 있습니다. 이러한 논란은 영국 당국의 관심을 끌었고, 당국은 X에 대한 압박 수위를 높여 기존 법률의 더 엄격한 시행과 이러한 충격적인 추세에 대처하기 위한 새로운 법률 제정을 위협하고 있습니다.

문제의 핵심은 X에 통합된 AI 챗봇 Grok인데, 사용자들이 이를 악용하여 동의 없는 음란 이미지를 생성하고 있습니다. 사용자들은 간단한 프롬프트를 입력하여 Grok에게 아동을 포함한 실제 사람들의 조작된 사진을 성적으로 노골적인 시나리오로 만들도록 지시할 수 있습니다. 그런 다음 이러한 이미지는 X에 자동으로 공개적으로 게시되어 플랫폼을 AI 생성 학대의 온상으로 만들고 있습니다.

많은 대규모 언어 모델과 마찬가지로 Grok의 기술은 인터넷에서 스크랩한 방대한 텍스트 및 이미지 데이터 세트에 의존합니다. 이 데이터에는 종종 편향과 문제가 있는 콘텐츠가 포함되어 있으며, AI는 이를 무심코 복제하거나 증폭할 수 있습니다. Grok의 경우 텍스트 프롬프트를 기반으로 이미지를 생성하는 기능과 강력한 안전 장치의 부족이 결합되어 유해한 콘텐츠의 생성 및 확산을 위한 완벽한 폭풍을 만들었습니다. 문제는 Grok이 의도적으로 악의적이라는 것이 아니라, 그 훈련과 구현이 오용 가능성을 적절히 해결하지 못했다는 것입니다.

이러한 AI 생성 이미지의 피해자들은 당연히 경악하고 있습니다. 많은 사람들이 소셜 미디어에 분노를 표출하고 머스크와 X에 조치를 요구하고 있습니다. 여기서 핵심 요소는 동의의 부족입니다. 이들은 선정적인 사진을 찍기로 선택한 공인이 아니라, 자신도 모르는 사이에 자신의 초상이 착취당하고 있는 평범한 개인입니다.

영국의 기술 장관인 리즈 켄달은 "이러한 가짜 이미지는 여성과 소녀를 불균형적으로 겨냥한 학대 무기이며 불법입니다."라고 말하며 이 문제에 대처하려는 정부의 의지를 강조했습니다. 다음 주에 정부는 동의 없는 음란 이미지 생성을 범죄화하는 기존 법률을 보다 적극적으로 시행할 계획입니다. 또한 켄달은 그러한 불법 이미지를 생성하도록 설계된 도구를 제공하는 회사를 구체적으로 겨냥한 새로운 법안을 마련할 계획을 발표했는데, 이는 X 및 유사한 AI 기능을 호스팅하는 다른 플랫폼에 대한 명확한 경고입니다.

영국의 대응은 AI의 윤리적 의미와 오용을 방지하기 위한 기술 회사의 책임에 대한 우려가 커지고 있음을 강조합니다. 이번 사건은 소셜 미디어 플랫폼에서 AI 기반 기능에 필요한 감독 및 조정 수준에 대한 의문을 제기합니다. 회사는 AI의 행위가 사용자 프롬프트의 결과인 경우에도 AI의 행위에 대해 책임을 져야 할까요?

Grok과 X의 상황은 AI의 미래와 사회에 미치는 영향에 대한 더 큰 논쟁의 축소판입니다. AI 기술이 더욱 정교해지고 접근성이 높아짐에 따라 긍정적인 측면과 부정적인 측면 모두의 가능성이 커집니다. 과제는 혁신과 규제 사이의 균형을 찾아 AI가 인류를 착취하고 학대하는 것이 아니라 권한을 부여하고 이롭게 하는 데 사용되도록 하는 데 있습니다. 영국 정부가 취한 조치는 유사한 문제로 어려움을 겪고 있는 다른 국가에 선례를 제시하여 AI 규제의 미래와 디지털 시대의 기술 회사의 책임을 형성할 수 있습니다. 세계는 압력이 증가하는 X가 이 위기에 효과적으로 대처하고 플랫폼이 AI 생성 성적 학대의 안식처가 되는 것을 막을 수 있는지 주시하고 있습니다.