Социальная медиаплатформа X Илона Маска ограничила возможности генерации изображений в своем чат-боте Grok для платных подписчиков после критики по поводу создания изображений сексуального характера и потенциальной эксплуатации детей. Изменение, введенное в пятницу, теперь предлагает пользователям, не оплачивающим подписку, при попытке сгенерировать изображения с помощью Grok, подписаться на премиум-уровень платформы за 95 долларов в год.

Эта корректировка произошла на фоне растущего внимания к X и xAI, компании, ответственной за разработку Grok, в связи с контентом, созданным пользователями, который включал создание "тысяч фотографий раздевающихся женщин и сексуализированных изображений несовершеннолетних", согласно отчетам. Компании сталкиваются с растущими регуляторными расследованиями по всему миру в отношении создания откровенных изображений без согласия и предполагаемых сексуальных изображений детей.

Чат-бот Grok, инструмент для общения на основе искусственного интеллекта, интегрированный в платформу X, использует алгоритмы машинного обучения для генерации изображений на основе запросов пользователей. Технология, хотя и способна создавать разнообразный и креативный контент, использовалась для создания вредоносных и неприемлемых изображений, что вызывает опасения по поводу модерации контента и этической разработки ИИ.

Решение ограничить генерацию изображений платными подписчиками можно интерпретировать как попытку контролировать использование технологии и потенциально сократить создание проблемного контента. Переведя эту функцию за платный доступ, X, возможно, стремится сдержать злоупотребления и направить ресурсы на усилия по модерации контента, ориентированные на платных пользователей. В одном из тестов системы, в котором Grok попросили создать изображение дерева, система вернула то же сообщение, призывающее пользователей подписаться.

Премьер-министр Великобритании Кир Стармер указал на возможность запрета X в Великобритании, сославшись на предполагаемую незаконную деятельность платформы. Ни X, ни xAI не сделали официальных заявлений относительно конкретных обвинений или решения ограничить генерацию изображений платными подписчиками. Ситуация остается нестабильной, поскольку продолжаются регуляторные расследования и развивается общественная дискуссия вокруг этических последствий контента, созданного ИИ.