Министерство информационных технологий Индии приказало компании X Илона Маска немедленно внедрить технические и процедурные изменения в свой AI-чат-бот Grok после того, как пользователи и законодатели сообщили о генерации непристойного контента. Приказ, изданный в пятницу, предписывает X ограничить Grok в создании контента, содержащего наготу, сексуализацию, материалы сексуального характера или другой незаконный контент.

Министерство дало X 72 часа на предоставление отчета о принятых мерах, подробно описывающего шаги, предпринятые для предотвращения размещения или распространения контента, который считается непристойным, порнографическим, вульгарным, неприличным, сексуально откровенным, педофильным или иным образом запрещенным индийским законодательством. TechCrunch ознакомился с приказом, в котором предупреждается, что несоблюдение может поставить под угрозу защиту X в рамках "безопасной гавани", которая обеспечивает юридическую защиту от ответственности за контент, создаваемый пользователями, в соответствии с индийским законодательством.

Действия последовали за опасениями, высказанными пользователями, которые поделились примерами того, как Grok предлагалось изменить изображения людей, в основном женщин, чтобы они выглядели так, будто на них надеты бикини. Индийский парламентарий Приянка Чатурведи подала официальную жалобу после того, как эти случаи стали известны.

Grok, AI-чат-бот X, предназначен для ответов на вопросы и создания текста в разговорном стиле. Он использует большую языковую модель (LLM), тип алгоритма искусственного интеллекта, обученный на огромных объемах текстовых данных для понимания и генерации человекоподобного языка. Инцидент подчеркивает проблемы, связанные с предотвращением создания AI-моделями неприемлемого или вредоносного контента, даже при наличии мер безопасности.

Директива правительства Индии подчеркивает растущий контроль над AI-платформами и необходимость надежной политики модерации контента. Защита "безопасной гавани", как указано в приказе, является критически важным аспектом интернет-законодательства, защищающим платформы от ответственности за контент, создаваемый пользователями, при условии, что они соблюдают определенные правила и принимают меры против незаконного контента при получении уведомления. Потеря этой защиты может подвергнуть X юридическим проблемам и финансовым штрафам.

Приказ Министерства информационных технологий сигнализирует о твердой позиции в отношении регулирования контента и ответственного развертывания AI-технологий в Индии. Результаты отчета X о принятых мерах и последующие реализованные меры, вероятно, создадут прецедент для других AI-платформ, работающих в стране. Инцидент также поднимает более широкие вопросы об этических соображениях и социальном воздействии контента, создаваемого AI, что вызывает постоянные дискуссии между политиками, технологическими компаниями и общественностью.