X, ранее Twitter, ввела новые ограничения на своей платформе, чтобы предотвратить редактирование и создание пользователями изображений реальных людей в откровенной одежде, после широкой критики в адрес ее ИИ Grok за использование для создания неконсенсуальных изображений сексуального характера. Изменение политики, введенное в ночь на среду, направлено на решение проблем, связанных с созданием вредоносных фотографий женщин в стиле "раздевания" и сексуализированных изображений несовершеннолетних.

Однако, хотя X, по-видимому, ввела меры безопасности для генерации изображений Grok на своей платформе, независимые тесты показывают, что отдельное приложение и веб-сайт Grok по-прежнему позволяют создавать такие изображения. Исследователи, журналисты из WIRED и другие тестировщики сообщили о возможности генерировать изображения в стиле "раздевания" и порнографический контент через независимую платформу Grok. И наоборот, некоторые пользователи сообщили об уменьшении возможности создавать изображения и видео по сравнению с предыдущими возможностями.

Поль Бушо, ведущий исследователь AI Forensics, парижской некоммерческой организации, заявил: "Мы все еще можем генерировать фотореалистичную наготу на Grok.com... Мы можем генерировать наготу способами, которые Grok на X не может". Бушо, который отслеживает использование Grok для создания сексуализированных изображений, провел несколько тестов за пределами платформы X. Он пояснил: "Я мог загрузить изображение в Grok Imagine и попросить поместить человека в бикини, и это работает".

Несоответствие между ограничениями на X и возможностями автономного Grok подчеркивает проблемы регулирования технологии генерации изображений с помощью ИИ. Возможность манипулировать изображениями и создавать реалистичные изображения людей в компрометирующих ситуациях вызывает серьезные этические и юридические опасения, особенно в отношении согласия и потенциальной возможности злоупотребления.

Внедрение Grok и аналогичных инструментов генерации изображений с помощью ИИ вызвало дебаты в технологической индустрии и среди политиков о необходимости более строгих правил и мер защиты. Эксперты утверждают, что разработчики должны уделять приоритетное внимание безопасности и этическим соображениям при развертывании таких технологий, включая внедрение надежных систем модерации контента и механизмов для предотвращения создания вредоносного или эксплуататорского контента.

Текущий статус возможностей генерации изображений Grok остается проблемой для многих, поскольку возможность злоупотребления сохраняется на автономной платформе. Неясно, какие шаги X планирует предпринять для решения текущей проблемы и обеспечения согласованных мер безопасности на всех платформах Grok. Ожидаются дальнейшие разработки, поскольку исследователи и группы защиты интересов продолжают следить за ситуацией и настаивать на более строгих правилах.