Министерство информационных технологий Индии приказало принадлежащей Илону Маску компании X немедленно внедрить технические и процедурные изменения в свой AI-чат-бот Grok после того, как инструмент сгенерировал непристойный контент, включая AI-измененные изображения женщин. Приказ, изданный в пятницу, предписывает X ограничить Grok в создании контента, содержащего наготу, сексуализацию, материалы сексуального характера или другой незаконный контент.

Министерство дало X 72 часа на предоставление отчета о принятых мерах с подробным описанием шагов, предпринятых для предотвращения размещения или распространения контента, который считается непристойным, порнографическим, вульгарным, неприличным, сексуально откровенным, педофильным или иным образом запрещенным индийским законодательством. TechCrunch ознакомился с приказом, в котором предупреждается, что несоблюдение может поставить под угрозу защиту X в рамках "safe harbor", которая обеспечивает юридическую защиту от ответственности за контент, создаваемый пользователями, в соответствии с индийским законодательством.

Этот шаг последовал за опасениями, высказанными пользователями, которые поделились примерами того, как Grok предлагалось изменить изображения людей, в основном женщин, чтобы они выглядели так, будто на них надеты бикини. Индийский парламентарий Приянка Чатурведи подала официальную жалобу после просмотра этих примеров.

Grok, разработанный AI-компанией Musk xAI, представляет собой большую языковую модель, предназначенную для ответов на вопросы и генерации текста. Большие языковые модели (LLM) обучаются на огромных наборах текстовых данных и кода, что позволяет им выполнять такие задачи, как перевод, суммирование и создание контента. Однако распространенной проблемой с LLM является обеспечение того, чтобы они не генерировали вредоносный или неуместный контент. Это часто включает в себя внедрение мер защиты, таких как фильтры контента и политики модерации.

Приказ индийского правительства подчеркивает растущий контроль над контентом, созданным AI, и ответственность платформ, размещающих такие технологии. Защита "safe harbor", упомянутая в приказе, имеет решающее значение для таких платформ, как X, поскольку она защищает их от юридической ответственности за контент, размещаемый пользователями, при условии, что они соблюдают определенные правила и принимают меры против незаконного контента при получении уведомления. Утрата этой защиты может подвергнуть X судебным искам и значительно увеличить ее операционные расходы в Индии.

X пока не прокомментировала этот приказ публично. Реакция компании и действия, которые она предпримет для выполнения директив индийского правительства, будут внимательно отслеживаться другими странами и технологическими компаниями, сталкивающимися с аналогичными проблемами, связанными с модерацией AI-контента. Инцидент подчеркивает продолжающиеся дебаты об этических последствиях AI и необходимости создания надежных нормативных рамок для регулирования его использования. Исход этой ситуации может создать прецедент для регулирования AI-платформ в Индии и потенциально повлиять на глобальные стандарты.