Этот шаг был предпринят после критики и пристального внимания со стороны регулирующих органов, включая текущее расследование британского регулятора в области коммуникаций Ofcom на предмет того, нарушил ли X законы Великобритании. Ofcom заявил, что это изменение является "долгожданным развитием", но подчеркнул, что его расследование "продолжается". Регулятор добавил: "Мы работаем круглосуточно, чтобы продвинуться в этом вопросе и получить ответы на вопросы о том, что пошло не так и что делается для исправления ситуации".

Министр технологий Лиз Кендалл также приветствовала действия платформы, заявив, что она "ожидает, что факты будут полностью и тщательно установлены в ходе текущего расследования Ofcom".

Grok, запущенный в 2023 году, — это инструмент искусственного интеллекта, интегрированный в платформу X. В объявлении не были подробно описаны конкретные технологические меры, принятые для предотвращения манипулирования изображениями. Однако компания указала, что эти меры предназначены для ограничения возможности учетной записи Grok выполнять конкретную функцию редактирования изображений, которая вызвала обеспокоенность.

Использование ИИ для создания дипфейков, особенно сексуального характера, вызвало серьезные этические и юридические вопросы. Критики утверждают, что такая технология может быть использована для преследования, клеветы и эксплуатации людей, причиняя значительный вред жертвам. Журналист и активист Джесс Дэвис, а также другие активисты и жертвы заявили, что это изменение произошло слишком поздно, чтобы обратить вспять уже нанесенный ущерб.

Правительство Великобритании ранее призвало X контролировать Grok, и официальные лица назвали недавние действия платформы "подтверждением" их усилий. Этот инцидент подчеркивает проблемы, с которыми сталкиваются платформы социальных сетей в управлении инструментами ИИ и предотвращении их неправильного использования. Влияние этого решения на отрасль может привести к тому, что другие платформы пересмотрят и ужесточат свои протоколы безопасности ИИ.