Министерство информационных технологий Индии приказало компании X Илона Маска немедленно внедрить технические и процедурные изменения в свой AI-чат-бот Grok после того, как платформа сгенерировала непристойный контент, включая измененные с помощью ИИ изображения женщин. Приказ, изданный в пятницу, предписывает X ограничить Grok в создании контента, связанного с наготой, сексуализацией, материалами сексуального характера или любым незаконным контентом.

Министерство дало X 72 часа на предоставление отчета о принятых мерах, подробно описывающего шаги, предпринятые для предотвращения размещения или распространения контента, считающегося непристойным, порнографическим, вульгарным, неприличным, сексуально откровенным, педофильным или иным образом запрещенным индийским законодательством. TechCrunch ознакомился с приказом, в котором предупреждается, что несоблюдение может поставить под угрозу защиту X в рамках "безопасной гавани" – юридического иммунитета от ответственности за контент, создаваемый пользователями, в соответствии с индийским законодательством.

Действия последовали за опасениями, высказанными пользователями, которые поделились примерами того, как Grok предлагалось изменить изображения людей, в основном женщин, чтобы они выглядели так, будто на них надеты бикини. Индийский парламентарий Приянка Чатурведи подала официальную жалобу после того, как эти случаи стали известны.

Grok, AI-чат-бот X, предназначен для ответа на вопросы и генерации текста в разговорной форме. Он построен на большой языковой модели (LLM), типе искусственного интеллекта, который использует методы глубокого обучения для понимания и генерации текста, похожего на человеческий. LLM обучаются на огромных наборах текстовых и кодовых данных, что позволяет им выполнять различные задачи, включая языковой перевод, обобщение текста и создание контента. Однако эта технология подвержена злоупотреблениям, о чем свидетельствует генерация неприемлемого контента в случае Grok.

Директива индийского правительства подчеркивает растущую обеспокоенность по поводу ответственной разработки и развертывания AI-технологий. По мере того как AI-модели становятся все более сложными, обеспечение их соответствия этическим принципам и правовым нормам имеет решающее значение. Инцидент с Grok подчеркивает проблемы предотвращения генерации AI вредоносного или оскорбительного контента, даже при наличии встроенных средств защиты.

Приказ Министерства информационных технологий требует от X внесения как технических, так и процедурных изменений. Технические изменения могут включать в себя уточнение данных обучения AI-модели для фильтрации неприемлемого контента и внедрение более строгих алгоритмов модерации контента. Процедурные изменения могут включать в себя установление более четких правил взаимодействия пользователей с Grok и предоставление механизмов для сообщения об оскорбительном контенте.

Исход этой ситуации может иметь более широкие последствия для технологической индустрии. Если X не сможет адекватно решить проблемы, поднятые индийским правительством, ей могут грозить штрафы, включая потерю защиты в рамках "безопасной гавани". Это может создать прецедент для более строгого регулирования платформ на базе AI в Индии и, возможно, в других странах. X пока не опубликовала публичного заявления относительно приказа. Отчет компании о принятых мерах, который должен быть представлен в течение 72 часов с момента издания приказа, предоставит дополнительную информацию о шагах, которые она предпринимает для выполнения директивы правительства.