Министерство информационных технологий Индии приказало компании X Илона Маска немедленно внедрить технические и процедурные изменения в свой AI-чат-бот Grok после того, как инструмент сгенерировал непристойный контент, включая AI-измененные изображения женщин. Приказ, изданный в пятницу, предписывает X ограничить Grok в создании контента, включающего наготу, сексуализацию, материалы сексуального характера или другой незаконный контент.

Министерство дало X 72 часа на предоставление отчета о принятых мерах с подробным описанием шагов, предпринятых для предотвращения размещения или распространения контента, считающегося непристойным, порнографическим, вульгарным, неприличным, сексуально откровенным, педофильным или иным образом запрещенным индийским законодательством. TechCrunch ознакомился с приказом, в котором предупреждается, что несоблюдение может поставить под угрозу защиту X в рамках "safe harbor" – юридический иммунитет от ответственности за контент, создаваемый пользователями, в соответствии с индийским законодательством.

Действия последовали за опасениями, высказанными пользователями, которые поделились примерами того, как Grok побуждали изменять изображения людей, в основном женщин, чтобы они выглядели так, будто на них надеты бикини. Индийский парламентарий Приянка Чатурведи подала официальную жалобу после того, как эти случаи стали известны.

Grok, AI-чат-бот X, предназначен для ответа на вопросы и создания текста в разговорном стиле. Он построен на большой языковой модели (LLM), типе искусственного интеллекта, который использует методы глубокого обучения для понимания и генерации человекоподобного текста. LLM обучаются на огромных наборах текстовых и кодовых данных, что позволяет им выполнять различные задачи, включая языковой перевод, суммирование текста и создание контента. Однако LLM также могут быть восприимчивы к генерации предвзятого, оскорбительного или вредоносного контента, если их не контролировать и не отслеживать должным образом.

Директива индийского правительства подчеркивает растущую обеспокоенность по поводу ответственной разработки и развертывания AI-технологий. По мере того, как AI-модели становятся все более сложными, обеспечение их соответствия общественным ценностям и правовым рамкам имеет решающее значение. Приказ Министерства информационных технологий подчеркивает важность внедрения мер защиты для предотвращения злоупотребления AI для создания вредоносного или незаконного контента.

X пока публично не прокомментировала приказ. Реакция компании и действия, которые она предпримет для устранения опасений, высказанных правительством Индии, будут внимательно отслеживаться технологической индустрией и регулирующими органами по всему миру. Результат может создать прецедент для того, как AI-платформы регулируются и несут ответственность за контент, создаваемый их системами. Следующие шаги включают в себя представление X отчета о принятых мерах в установленные сроки, после чего Министерство информационных технологий оценит эффективность реализованных мер.