Этот шаг был предпринят после значительной негативной реакции и пристального внимания к возможностям ИИ платформы. Grok, запущенный в X в 2023 году, позволяет пользователям взаимодействовать с изображениями и манипулировать ими, что поднимает этические вопросы о потенциальных злоупотреблениях. В объявлении не были подробно описаны конкретные технологические меры, принятые для предотвращения создания дипфейков.

Правительство Великобритании отреагировало на это изменение, назвав его "подтверждением" своих предыдущих призывов к X контролировать Grok. Регулирующий орган Ofcom назвал это "позитивным развитием", но подчеркнул, что его расследование того, нарушила ли платформа законы Великобритании, "продолжается". Ofcom заявил: "Мы работаем круглосуточно, чтобы продвинуться в этом вопросе и получить ответы на вопросы о том, что пошло не так и что делается для исправления ситуации".

Министр технологий Лиз Кендалл также приветствовала этот шаг, но добавила, что она "ожидает, что факты будут полностью и тщательно установлены в ходе продолжающегося расследования Ofcom".

Активисты и жертвы утверждают, что этого изменения недостаточно, чтобы обратить вспять ущерб, уже нанесенный этой технологией. Журналист и активист Джесс Дэвис, которая не была процитирована непосредственно в предоставленном исходном материале, вероятно, активно высказывалась по этому вопросу.

Этот инцидент подчеркивает более широкие проблемы регулирования контента, созданного ИИ, и потенциальные злоупотребления технологией манипулирования изображениями. Дипфейки, использующие ИИ для создания реалистичных, но сфабрикованных изображений и видео, вызвали обеспокоенность по поводу дезинформации, нарушений конфиденциальности и потенциала для преследований и злоупотреблений. Это событие также подчеркивает напряженность между технологическими инновациями и этическими соображениями в быстро развивающейся области искусственного интеллекта.

Решение X ограничить возможности Grok представляет собой шаг к решению этих проблем, но долгосрочное воздействие и эффективность этих мер еще предстоит увидеть. Продолжающееся расследование Ofcom, вероятно, сыграет решающую роль в формировании будущих правил и руководств для контента, созданного ИИ, на платформах социальных сетей.