Этот шаг был предпринят после значительной негативной реакции и пристального внимания со стороны регулирующих органов и общественности. Правительство Великобритании назвало это решение "подтверждением" своего призыва к X контролировать возможности Grok. Ofcom, британский регулятор в области связи, охарактеризовал изменение как "позитивное развитие", но подчеркнул, что его расследование по поводу того, нарушила ли платформа законы Великобритании, "продолжается". Ofcom заявил: "Мы работаем круглосуточно, чтобы продвинуться в этом вопросе и получить ответы на вопросы о том, что пошло не так и что делается для исправления ситуации".

Министр технологий Лиз Кендалл также приветствовала изменение, но указала, что она "ожидает, что факты будут полностью и тщательно установлены в ходе текущего расследования Ofcom".

В объявлении не были подробно описаны конкретные технологические меры, принятые X для предотвращения создания Grok изображений такого типа. Однако такие меры обычно включают в себя сочетание методов, в том числе алгоритмы распознавания изображений, предназначенные для идентификации реальных людей на фотографиях, и фильтры, которые предотвращают создание ИИ контента сексуального или откровенного характера. Эти фильтры часто полагаются на модели машинного обучения, обученные обнаруживать и блокировать неприемлемые результаты.

Споры вокруг возможностей Grok по редактированию изображений подчеркивают растущую обеспокоенность по поводу потенциального использования ИИ для создания дипфейков без согласия, особенно сексуального характера. Активисты и жертвы утверждают, что изменение произошло слишком поздно, чтобы обратить вспять ущерб, уже нанесенный этой технологией. Журналист и активист Джесс Дэвис, которая не была процитирована непосредственно в предоставленном исходном материале, вероятно, была в числе тех, кто выступал за более строгий контроль.

Этот инцидент подчеркивает проблемы, с которыми сталкиваются платформы социальных сетей в регулировании инструментов на базе ИИ и предотвращении их злоупотребления. По мере того как технология ИИ становится все более сложной и доступной, потребность в надежных гарантиях и этических принципах становится все более важной. Влияние на отрасль значительно, что потенциально может привести к ужесточению правил и усилению контроля над приложениями ИИ на платформах социальных сетей. В настоящее время технологические меры реализованы, и расследование Ofcom продолжается. Следующие события, вероятно, будут связаны с результатами расследования Ofcom и потенциальными дальнейшими действиями регулирующих органов и законодателей для устранения рисков, связанных с дипфейками, созданными с помощью ИИ.