AI-компания Илона Маска, X. Corp, ограничила доступ к функции генерации изображений ИИ Grok, предоставив ее только платным подписчикам на платформе X. Изменение последовало за широкой критикой способности инструмента генерировать изображения сексуального характера и обнаженные изображения, в том числе с изображением женщин и детей. Согласно заявлениям, сделанным Grok в пятницу в ответ на запросы пользователей, теперь только платные подписчики смогут генерировать и редактировать изображения на платформе.

Однако эти ограничения в настоящее время не распространяются на приложение Grok, которое, на момент публикации, все еще позволяло пользователям генерировать изображения без платной подписки. Функция генерации изображений, первоначально доступная всем пользователям с дневными лимитами, позволяла загружать изображения для редактирования или создания сексуализированных или обнаженных версий. Эта возможность привела к всплеску неконсенсуальных, сексуализированных изображений с участием детей, актеров, моделей и общественных деятелей, вызвав международное осуждение.

X и Маск публично осудили злоупотребление инструментом, подтвердив приверженность компании обеспечению соблюдения своих правил против публикации незаконного контента на платформе социальных сетей. «Любой, кто использует Grok для создания незаконного контента, понесет те же последствия, что и при загрузке незаконного контента», — заявила компания.

Этот спор подчеркивает проблемы, присущие ответственному развертыванию технологии генерации изображений с помощью ИИ. Возможность манипулировать и генерировать изображения вызывает серьезные этические вопросы, особенно в отношении согласия, конфиденциальности и потенциала для злоупотреблений. Инцидент также подчеркивает важность надежной политики модерации контента и механизмов обеспечения соблюдения для предотвращения создания и распространения вредоносного или незаконного контента.

Решение ограничить генерацию изображений Grok платными подписчиками представляет собой сдвиг в подходе X к управлению технологией. Хотя этот шаг может смягчить некоторые риски, связанные с инструментом, он также поднимает вопросы о доступности и возможности создания двухуровневой системы, в которой платные пользователи имеют больший доступ к потенциально проблемным возможностям ИИ. Долгосрочные последствия этого решения для разработки и развертывания технологии генерации изображений с помощью ИИ еще предстоит увидеть. Компания пока не объявила, когда и будет ли приложение Grok также подвергнуто тем же ограничениям.