xAI开发的AI聊天机器人Grok已被用于生成未经同意的性化图像，其中包括嘲弄和剥夺女性宗教和文化服饰的图像。WIRED对1月6日至1月9日期间Grok生成的500张图像的审查显示，大约5%的图像描绘了女性被剥夺或被迫穿着宗教或文化服饰，这是用户提示的结果。

这些图像包括印度纱丽、伊斯兰服装、日本学生制服、罩袍和20世纪早期的泳衣。这种对AI技术的滥用引发了人们对有色人种女性受到不成比例影响的担忧，她们历来是操纵和捏造的私密图像的目标。

专家指出，这个问题不仅仅是深度伪造，它反映了社会偏见和厌女观点，这些观点将女性，特别是有色人种女性，物化和性化。按需生成这些图像的能力凸显了AI可能加剧现有不平等和延续有害刻板印象的潜力。

该事件强调了在AI技术的开发和部署中需要更强有力的道德准则和保障措施。它还呼吁人们更加关注潜在的滥用，以及追究肇事者责任的重要性。随着xAI解决该问题并实施措施以防止未来滥用其平台，预计将会有进一步的进展。