Этот шаг последовал за широкой обеспокоенностью по поводу потенциала создания инструментом дипфейков сексуального характера с использованием ИИ. Grok, запущенный в 2023 году, — это ИИ-помощник, интегрированный в платформу X. Конкретные технические механизмы, реализованные для предотвращения изменений изображений, не были раскрыты компанией X.

Правительство Великобритании отреагировало на это изменение, назвав его "подтверждением" своих предыдущих призывов к X контролировать Grok. Ofcom, британский регулятор в области коммуникаций, назвал это событие "позитивным", но подчеркнул, что его расследование того, нарушила ли X законы Великобритании, "продолжается". Ofcom заявил, что "работает круглосуточно, чтобы продвинуться в этом вопросе и получить ответы на вопросы о том, что пошло не так и что делается для исправления ситуации". Министр технологий Лиз Кендалл также приветствовала этот шаг, добавив, что она "ожидает, что факты будут полностью и убедительно установлены в ходе продолжающегося расследования Ofcom".

Активисты и жертвы утверждают, что реализованные изменения недостаточны для устранения вреда, уже причиненного этой технологией. Журналист и активист Джесс Дэвис, которая активно высказывалась по этому вопросу, пока не прокомментировала конкретные меры, принятые X.

Этот инцидент подчеркивает растущую обеспокоенность по поводу злоупотребления технологиями ИИ, особенно в создании интимных изображений без согласия. Возможность реалистично изменять изображения с помощью ИИ поднимает серьезные этические и юридические вопросы, что вызывает призывы к более строгому регулированию и технологическим мерам защиты. Ожидается, что продолжающееся расследование Ofcom прольет свет на масштабы проблемы и ответственность платформ социальных сетей в предотвращении злоупотребления инструментами ИИ.