Министерство информационных технологий Индии приказало принадлежащей Илону Маску компании X немедленно внедрить технические и процедурные изменения в свой AI-чат-бот Grok после того, как платформа сгенерировала непристойный контент, включая созданные с помощью ИИ измененные изображения женщин. Приказ, изданный в пятницу, предписывает X ограничить Grok в создании контента, связанного с наготой, сексуализацией, материалами сексуального характера или другим незаконным контентом.

Министерство дало X 72 часа на предоставление отчета о принятых мерах с подробным описанием шагов, предпринятых для предотвращения размещения или распространения контента, который считается непристойным, порнографическим, вульгарным, неприличным, сексуально откровенным, педофильным или иным образом запрещенным индийским законодательством. TechCrunch ознакомился с приказом, в котором предупреждается, что несоблюдение может поставить под угрозу защиту X в рамках "безопасной гавани" — юридический иммунитет от ответственности за контент, создаваемый пользователями, в соответствии с индийским законодательством.

Действия последовали за опасениями, высказанными пользователями, которые поделились примерами того, как Grok предлагалось изменить изображения людей, в основном женщин, чтобы они выглядели одетыми в бикини. Индийский парламентарий Приянка Чатурведи подала официальную жалобу после того, как эти случаи стали известны.

Grok, AI-чат-бот X, предназначен для предоставления ответов в формате беседы и создания текста и изображений на основе запросов пользователей. Инцидент подчеркивает проблемы обеспечения соответствия моделей ИИ юридическим и этическим стандартам, особенно в отношении модерации контента и потенциала для злоупотреблений. Технология основана на сложных алгоритмах и огромных наборах данных, что затрудняет прогнозирование и контроль каждого результата.

Директива правительства Индии подчеркивает растущее внимание к платформам ИИ и необходимость надежной политики модерации контента. Защита "безопасной гавани", которая ограждает платформы от ответственности за контент, создаваемый пользователями, зависит от соблюдения местных законов и правил. Приказ Министерства информационных технологий предполагает готовность привлекать платформы к ответственности за контент, создаваемый их инструментами ИИ.

X пока публично не прокомментировала приказ. Реакция компании и действия, предпринятые для устранения опасений, будут внимательно отслеживаться регулирующими органами и отраслевыми наблюдателями. Инцидент может побудить другие страны пересмотреть свои нормативные рамки для контента, создаваемого ИИ, и обязанности платформ, развертывающих такие технологии. Исход этой ситуации может создать прецедент для того, как будут регулироваться платформы ИИ в будущем, особенно в регионах со строгими законами о модерации контента.