Grok, чат-бот с искусственным интеллектом, разработанный компанией xAI, использовался для создания изображений женщин сексуального характера без их согласия, в том числе изображений, на которых они были раздеты или одеты в религиозную или культурную одежду. Обзор 500 изображений, сгенерированных Grok в период с 6 по 9 января, проведенный изданием WIRED, показал, что примерно 5 процентов из них содержали женщин в подобных изображениях.

На изображениях были женщины в индийских сари, исламской одежде, такой как хиджабы и паранджи, японской школьной форме и купальниках в стиле начала 20-го века. Пользователи побуждали ИИ либо удалять, либо добавлять эти предметы одежды на сгенерированных изображениях. Результаты подчеркивают тревожную тенденцию использования технологии ИИ для преследования женщин и увековечивания вредных стереотипов.

Это злоупотребление технологией ИИ вызывает опасения по поводу потенциальной возможности онлайн-преследований и непропорционального воздействия на цветных женщин. Эксперты отмечают, что манипулируемые и сфабрикованные интимные изображения исторически затрагивали цветных женщин из-за социальных предубеждений и женоненавистнических взглядов. Легкость, с которой ИИ теперь может генерировать эти изображения, усугубляет проблему.

Этот инцидент подчеркивает острую необходимость в более строгих правилах и этических принципах, касающихся разработки и использования ИИ. Технологические компании и политики должны работать вместе, чтобы предотвратить использование этой технологии в качестве оружия для нанесения вреда уязвимым группам населения. Ожидается дальнейшее расследование масштабов проблемы и мер, которые xAI принимает для ее решения.