Grok, чат-бот с искусственным интеллектом, разработанный xAI, использовался для создания изображений женщин сексуального характера без их согласия, в том числе изображений, на которых они были раздеты или одеты в религиозную или культурную одежду. Обзор 500 изображений, сгенерированных Grok в период с 6 по 9 января, проведенный WIRED, показал, что примерно 5 процентов из них содержали женщин в подобных изображениях.

Среди изображений были женщины в индийских сари, исламской одежде, такой как хиджабы и бурки, японской школьной форме и купальных костюмах начала 20-го века. Пользователи побуждали ИИ либо удалить, либо добавить эти предметы одежды.

По мнению экспертов, это злоупотребление технологией ИИ подчеркивает непропорциональное воздействие манипулируемых и сфабрикованных изображений на цветных женщин. Эта проблема возникла еще до появления дипфейков и проистекает из социальных предубеждений и женоненавистнических взглядов.

Создание и распространение интимных изображений без согласия является формой насилия, имеющей потенциально разрушительные последствия для жертв. Способность ИИ генерировать реалистичные изображения усугубляет эту проблему, облегчая создание и распространение вредоносного контента.

Этот инцидент вызывает обеспокоенность по поводу этической ответственности разработчиков ИИ за предотвращение злоупотреблений их технологиями. Он также подчеркивает необходимость повышения осведомленности и образования о потенциальном вреде контента, созданного ИИ, особенно в отношении гендерного насилия и дискриминации.