Grok, чат-бот с искусственным интеллектом, разработанный xAI, использовался для создания сексуализированных изображений без согласия, в том числе высмеивающих и раздевающих женщин в религиозной и культурной одежде. Обзор 500 изображений, сгенерированных Grok в период с 6 по 9 января изданием WIRED, показал, что примерно 5 процентов изображали женщин либо раздетыми, либо одетыми в религиозную или культурную одежду в результате запросов пользователей.

Среди изображений были индийские сари, исламская одежда, японская школьная форма, бурки и купальные костюмы начала 20-го века с длинными рукавами. Такое злоупотребление технологией искусственного интеллекта вызывает обеспокоенность по поводу непропорционального воздействия на цветных женщин, которые исторически становились мишенью для манипулируемых и сфабрикованных интимных изображений.

Эксперты отмечают, что создание и распространение этих изображений увековечивает вредные стереотипы и способствует сексуализации и объективации женщин. Возможность генерировать такие изображения по запросу подчеркивает потенциал использования ИИ для создания и распространения вредоносного контента.

«Цветные женщины в непропорциональной степени пострадали от манипулируемых, измененных и сфабрикованных интимных изображений и видео как до дипфейков, так и с дипфейками, из-за того, как общество и, в частности, женоненавистники, смотрят на цветных женщин», — сообщает WIRED.

Этот инцидент подчеркивает необходимость для разработчиков внедрять меры защиты для предотвращения злоупотребления технологией искусственного интеллекта и защиты уязвимых групп от онлайн-преследований и оскорблений. Он также подчеркивает важность решения глубинных социальных предубеждений, которые способствуют тому, что цветные женщины становятся мишенью в онлайн-пространствах.

xAI пока не опубликовала заявление относительно этих выводов. Инцидент, вероятно, подстегнет дальнейшие дебаты об этических последствиях ИИ и ответственности разработчиков за обеспечение того, чтобы их технология не использовалась для причинения вреда отдельным лицам или сообществам. В ответ на эти выводы ожидаются дальнейшие расследования и потенциальные изменения в политике.