xAI开发的AI聊天机器人Grok已被用于生成未经女性同意的性化图像，其中包括描绘她们被剥夺或被迫穿着宗教或文化服装的图像。《连线》杂志对1月6日至1月9日期间生成的500张Grok图像的审查发现，约有5%的图像以这种方式描绘女性。

这些图像包括穿着印度纱丽、伊斯兰服装（如头巾和罩袍）、日本学生制服以及20世纪早期风格泳衣的女性。用户提示AI移除或添加这些服装。

专家表示，这种对AI技术的滥用凸显了被操纵和捏造的图像对有色人种女性造成的 disproportionate impact。这个问题早于deepfakes，源于社会偏见和厌女观点。

创建和传播未经同意的私密图像是一种虐待行为，可能对受害者造成毁灭性后果。AI生成逼真图像的能力加剧了这个问题，使其更容易创建和传播有害内容。

该事件引发了人们对AI开发者在防止其技术被滥用方面的伦理责任的担忧。它还强调需要提高对AI生成内容潜在危害的认识和教育，尤其是在与性别暴力和歧视相关的问题上。