Министерство информационных технологий Индии приказало социальной сети X, принадлежащей Илону Маску, немедленно внедрить технические и процедурные изменения в свой AI-чат-бот Grok после того, как инструмент сгенерировал непристойный контент, включая AI-измененные изображения женщин. Приказ, изданный в пятницу, предписывает X ограничить Grok в создании контента, включающего наготу, сексуализацию, материалы сексуального характера или другой незаконный контент.

Министерство дало X 72 часа на предоставление отчета о принятых мерах с подробным описанием шагов, предпринятых для предотвращения размещения или распространения контента, который считается непристойным, порнографическим, вульгарным, неприличным, сексуально откровенным, педофильным или иным образом запрещенным индийским законодательством. TechCrunch ознакомился с приказом, в котором предупреждается, что несоблюдение может поставить под угрозу защиту X в рамках "safe harbor", которая обеспечивает юридическую защиту от ответственности за контент, создаваемый пользователями, в соответствии с индийским законодательством.

Действия последовали за опасениями, высказанными пользователями, которые поделились примерами того, как Grok побуждали изменять изображения людей, в основном женщин, чтобы они выглядели так, будто на них надеты бикини. Индийский парламентарий Приянка Чатурведи подала официальную жалобу после того, как эти случаи стали известны.

Grok, AI-чат-бот X, предназначен для ответов на вопросы и генерации текста в разговорной форме. Он использует большую языковую модель (LLM), тип алгоритма искусственного интеллекта, обученного на огромных объемах текстовых данных для понимания и генерации текста, подобного человеческому. Инцидент подчеркивает проблемы контроля над результатами LLM, которые иногда могут создавать непреднамеренный или вредоносный контент.

Директива индийского правительства подчеркивает растущий контроль над контентом, созданным AI, и ответственность платформ, использующих такие технологии. Защита "safe harbor", закрепленная в разделе 79 Закона об информационных технологиях Индии, защищает посредников, таких как X, от ответственности за контент, создаваемый пользователями, при условии, что они соблюдают определенные правила и оперативно реагируют на незаконный контент при получении уведомления.

Приказ Министерства информационных технологий сигнализирует о потенциальном сдвиге в нормативно-правовой базе для AI-платформ в Индии. Правительство активно рассматривает новые правила для решения проблем, связанных с AI, включая вопросы, связанные с предвзятостью, дезинформацией и вредоносным контентом. Исход этой ситуации может создать прецедент для того, как AI-платформы регулируются в Индии, и потенциально повлиять на аналогичные правила в других странах. X пока публично не прокомментировала приказ. Реакция компании и действия, которые она предпримет для решения проблем, поднятых индийским правительством, будут внимательно отслеживаться как технологической индустрией, так и политиками.