Компания Илона Маска, занимающаяся разработкой ИИ, X. Corp, ограничила доступ к функции генерации изображений ИИ Grok для платных подписчиков на платформе X после широкой критики по поводу злоупотребления этим инструментом. Ограничение, объявленное в пятницу в ответах пользователям, ограничивает возможности генерации и редактирования изображений только для платных подписчиков, что вызвано опасениями по поводу создания изображений сексуального характера и обнаженных изображений, в том числе с изображением женщин и детей.

Первоначальный запуск функции генерации изображений Grok позволял пользователям, даже тем, у кого нет подписки, загружать изображения и запрашивать изменения, включая создание сексуализированных или обнаженных версий. Эта возможность привела к всплеску изображений, созданных без согласия, с участием детей, актеров, моделей и общественных деятелей, что вызвало международное осуждение. Несмотря на ограничения на X, приложение Grok на момент публикации продолжало позволять всем пользователям генерировать изображения без необходимости платной подписки.

X и Илон Маск публично осудили злоупотребление этим инструментом, заявив, что компания будет обеспечивать соблюдение своей политики в отношении незаконного контента. «Любой, кто использует Grok для создания незаконного контента, понесет те же последствия, что и при загрузке незаконного контента», — заявила компания, подтвердив свою приверженность политике модерации контента.

Решение ограничить доступ для платных подписчиков отражает растущую обеспокоенность в индустрии ИИ по поводу потенциального злоупотребления генеративными технологиями ИИ. Эксперты предупреждают об этических последствиях генерации изображений с помощью ИИ, особенно о риске создания дипфейков и откровенного контента, созданного без согласия. Инцидент подчеркивает проблемы, с которыми сталкиваются компании, стремясь сбалансировать инновации с ответственной разработкой и развертыванием ИИ.

Ожидается, что решение X ограничить доступ к функции генерации изображений Grok повлияет на базу пользователей и потенциально изменит направленность разработки этого инструмента. Еще предстоит увидеть, внедрит ли компания более строгие меры защиты для предотвращения злоупотреблений, даже среди платных подписчиков. Будущее возможностей генерации изображений Grok и его доступность в автономном приложении остаются неопределенными, поскольку компания решает этические и юридические сложности контента, сгенерированного ИИ.