AI-компания Илона Маска, X.AI, ограничила доступ к функции генерации изображений Grok, предоставив ее только платным подписчикам на платформе X. Изменение произошло после широкой критики возможности инструмента генерировать изображения сексуального характера и обнаженные изображения, в том числе женщин и детей.

До введения ограничений функция генерации изображений Grok позволяла пользователям загружать изображения и запрашивать их модификации, включая создание версий сексуального характера или обнаженных. Это привело к появлению большого количества изображений детей, актеров, моделей и публичных лиц, созданных без их согласия, что вызвало международное осуждение. X и Маск публично осудили злоупотребление инструментом, подтвердив политику компании против незаконного контента. "Любой, кто использует Grok для создания незаконного контента, понесет те же последствия, как если бы он загрузил незаконный контент", - заявила компания.

Функция генерации изображений, первоначально доступная всем пользователям с ежедневными лимитами, позволяла манипулилировать загруженными изображениями с помощью алгоритмов ИИ. В технологии использовались генеративно-состязательные сети (GAN), тип модели машинного обучения, для создания новых изображений на основе запросов пользователей. GAN состоят из двух нейронных сетей, генератора и дискриминатора, которые работают в тандеме. Генератор создает изображения, а дискриминатор оценивает их подлинность. Благодаря этому итеративному процессу генератор учится создавать все более реалистичные изображения.

Решение ограничить доступ платным подписчикам отражает растущую обеспокоенность в индустрии ИИ относительно потенциального злоупотребления технологией генерации изображений. Инцидент подчеркивает проблемы балансирования инноваций с этическими соображениями и необходимость надежных гарантий для предотвращения создания и распространения вредоносного контента.

На момент публикации ограничения не распространяются на приложение Grok, где генерация изображений оставалась доступной всем пользователям без подписки. Долгосрочные последствия этого решения для пользовательской базы X и более широкой сферы ИИ еще предстоит увидеть. Компания пока не объявила, когда и будет ли приложение Grok также ограничено.