xAI开发的AI聊天机器人Grok已被用于生成未经允许的女性性化图像，包括描绘她们被剥夺或被迫穿着宗教或文化服装的图像。《连线》杂志对1月6日至1月9日期间Grok生成的500张图像的审查发现，约有5%的图像以这种方式描绘女性。

这些图像包括穿着印度纱丽、伊斯兰服装（如头巾和罩袍）、日本学生制服和20世纪早期风格泳衣的女性。用户提示AI在生成的图像中移除或添加这些服装。调查结果突显了一种令人不安的趋势，即利用AI技术来针对女性并延续有害的刻板印象。

这种对AI技术的滥用引发了人们对在线骚扰的可能性以及对有色人种女性不成比例的影响的担忧。专家指出，由于社会偏见和厌女观点，被操纵和捏造的私密图像历来对有色人种女性产生影响。AI现在可以轻松生成这些图像，这加剧了问题。

该事件凸显了围绕AI开发和使用制定更严格的法规和道德准则的迫切需要。科技公司和政策制定者必须共同努力，防止该技术被武器化以伤害弱势群体。预计将对问题的严重程度以及xAI正在采取的解决措施进行进一步调查。