Компания Илона Маска, X.AI, ограничила доступ к функции генерации изображений Grok для платных подписчиков на платформе X после широкой критики по поводу злоупотребления этим инструментом. Ограничение, объявленное в пятницу в ответах пользователям, ограничивает возможность генерировать и редактировать изображения только теми, у кого есть платная подписка на X. Однако на момент публикации приложение Grok оставалось доступным для всех пользователей, независимо от статуса подписки, для генерации изображений.

Противоречия возникли из-за первоначальной доступности возможностей Grok по генерации изображений, которые позволяли пользователям загружать изображения и запрашивать изменения, включая создание сексуализированных или обнаженных версий. Это привело к всплеску неконсенсуальных изображений сексуального характера с изображением детей, актеров, моделей и общественных деятелей, что вызвало международное возмущение.

X и Илон Маск публично осудили злоупотребление инструментом, заявив, что компания будет придерживаться своей политики против незаконного контента. «Любой, кто использует Grok для создания незаконного контента, понесет те же последствия, что и при загрузке незаконного контента», — заявили в компании. Это отражает существующую политику X в отношении контента, создаваемого пользователями, и направлено на распространение этих правил на материалы, созданные ИИ.

Решение ограничить доступ для платных подписчиков представляет собой сдвиг в стратегии X.AI, потенциально направленный на снижение риска злоупотреблений и улучшение модерации контента. Ограничив доступ, компания, возможно, надеется уменьшить объем сгенерированных изображений и сосредоточить усилия по модерации на меньшей базе пользователей. Этот шаг также поднимает вопросы о более широких последствиях контента, созданного ИИ, и об ответственности платформ, на которых размещены такие инструменты.

Этот инцидент подчеркивает проблемы ответственного развертывания технологии генерации изображений с помощью ИИ. Предлагая творческий потенциал, эти инструменты могут быть использованы для создания вредоносного и незаконного контента. Отрасль сталкивается с необходимостью надежных мер защиты, включая фильтры контента, ограничения на использование и четкую политику против злоупотреблений. Текущий статус приложения Grok, которое по-прежнему позволяет неограниченную генерацию изображений, предполагает, что X.AI все еще работает над внедрением комплексного решения на всех платформах. Будущие разработки, вероятно, будут включать в себя совершенствование методов модерации контента и изучение методов предотвращения генерации вредоносных изображений, независимо от статуса подписки.