Этот шаг был предпринят после значительной негативной реакции и пристального внимания к потенциальному злоупотреблению технологией искусственного интеллекта. Grok, запущенный в 2023 году, предназначен для создания различных типов контента, включая манипуляции с изображениями. Обеспокоенность возникла, когда пользователи обнаружили, что ИИ можно побудить к созданию дипфейков реальных людей в компрометирующих ситуациях.

Правительство Великобритании отреагировало на это заявление, назвав его "подтверждением" своих призывов к X контролировать Grok. Регулятор Ofcom поддержал это мнение, назвав изменение "позитивным развитием", но подчеркнул, что его расследование того, нарушила ли платформа законы Великобритании, "продолжается". Ofcom заявил: "Мы работаем круглосуточно, чтобы продвинуться в этом вопросе и получить ответы на вопросы о том, что пошло не так и что делается для исправления ситуации".

Технологический секретарь Лиз Кендалл также приветствовала это изменение, но добавила, что она "ожидает, что факты будут полностью и тщательно установлены в ходе продолжающегося расследования Ofcom".

Конкретные технологические меры, принятые X для предотвращения злоупотребления Grok, не были подробно описаны в объявлении. Однако компания указала, что ограничения будут применяться в юрисдикциях, где создание и распространение таких дипфейков является незаконным. Это предполагает подход гео-ограждения, когда возможности ИИ ограничиваются в зависимости от местоположения пользователя.

Активисты и жертвы выразили мнение, что это изменение запоздало, утверждая, что вред, причиненный этой технологией, уже нанесен. Журналист и активист Джесс Дэвис, которая пострадала от этой технологии, активно выступает за необходимость более строгих правил и превентивных мер.

Этот инцидент подчеркивает сохраняющиеся проблемы регулирования технологий искусственного интеллекта и предотвращения их злоупотребления. Хотя решение X ограничить возможности Grok является шагом в правильном направлении, оно также поднимает вопросы о первоначальном надзоре платформы и возможности возникновения аналогичных проблем с другими инструментами ИИ. Влияние этого решения на отрасль может привести к усилению контроля над платформами, работающими на основе ИИ, и к большему акценту на ответственную разработку и развертывание ИИ.