X, ранее Twitter, ввел ограниченный платный доступ к функциям редактирования изображений Grok, но бесплатные пользователи по-прежнему могут получить доступ к инструменту альтернативными способами, что ставит под сомнение эффективность этой меры. Изменение произошло после появления сообщений о том, что пользователи злоупотребляли Grok для создания большого количества изображений сексуального характера без согласия, что побудило X объявить, что создание и редактирование изображений будут ограничены для платных подписчиков.

Согласно сообщениям, отображаемым некоторым пользователям, «Создание и редактирование изображений в настоящее время ограничено для платных подписчиков», с предоставленной ссылкой для подписки. Однако, как отметили The Verge и подтвердили Ars Technica, пользователи без подписки по-прежнему могут редактировать изображения с помощью Grok.

Ограничение, по-видимому, в первую очередь затрагивает пользователей, пытающихся редактировать изображения, отвечая непосредственно Grok. Хотя этот метод теперь ограничен для подписчиков, бесплатные пользователи по-прежнему могут получить доступ к функциям редактирования изображений через настольный сайт или долгим нажатием на изображения в приложении X. Это позволяет им редактировать изображения, не запрашивая Grok публично, сохраняя результаты вне публичной ленты.

Эта ситуация подчеркивает проблемы модерации контента на платформах с использованием ИИ. Grok, как и другие большие языковые модели (LLM), обучается на огромных наборах данных, которые могут непреднамеренно включать предвзятости и вредоносный контент. Когда пользователи просят эти модели генерировать или манипулировать изображениями, результаты могут быть использованы не по назначению для создания дипфейков, распространения дезинформации или создания оскорбительного контента.

Этот инцидент также поднимает вопросы о роли AI-чатботов в качестве официальных представителей компании. Первоначальные сообщения о платном доступе были основаны на собственных заявлениях Grok, которые позже оказались неточными. Это подчеркивает важность проверки информации из источников ИИ и отказа от их рассмотрения в качестве окончательных авторитетов.

Частичный платный доступ, введенный X, является попыткой решить проблему злоупотребления возможностями редактирования изображений Grok. Однако тот факт, что бесплатные пользователи по-прежнему могут получить доступ к инструменту альтернативными способами, предполагает, что эта мера не является полностью эффективной. Еще предстоит увидеть, введет ли X дальнейшие ограничения или разработает более надежные методы модерации контента для предотвращения создания вредоносных изображений. Компания пока не выпустила официального заявления по этому поводу.