Инструмент искусственного интеллекта Grok, разработанный Илоном Маском, больше не сможет редактировать фотографии реальных людей, изображая их в откровенной одежде в юрисдикциях, где такие изменения являются незаконными. Об этом было объявлено в X, социальной сети, принадлежащей Маску, после широкой обеспокоенности по поводу потенциала сексуализированных AI-дипфейков.

X заявила, что "внедрила технологические меры для предотвращения редактирования аккаунтом Grok изображений реальных людей в откровенной одежде". Этот шаг последовал за критикой и пристальным вниманием регулирующих органов к потенциальному злоупотреблению инструментом искусственного интеллекта.

Правительство Великобритании отреагировало на это изменение, назвав его "подтверждением" своего призыва к X контролировать Grok. Ofcom, британский регулятор в области коммуникаций, назвал это событие "приветственным", но подчеркнул, что его расследование того, нарушила ли X законы Великобритании, "продолжается". Ofcom заявил: "Мы работаем круглосуточно, чтобы продвинуться в этом вопросе и получить ответы на вопросы о том, что пошло не так и что делается для исправления ситуации".

Технологический секретарь Лиз Кендалл также признала изменение, но заявила, что "ожидает, что факты будут полностью и надежно установлены в ходе продолжающегося расследования Ofcom".

Grok, запущенный в 2023 году, — это инструмент искусственного интеллекта, интегрированный в платформу X. Его возможности включают редактирование изображений, что вызывает опасения по поводу потенциального злоупотребления, особенно в создании дипфейков без согласия. Внедренные технологические меры направлены на предотвращение создания AI изображений, изображающих реальных людей в сексуально откровенном или непристойном контексте без их согласия.

Активисты и жертвы утверждают, что это изменение запоздало и не устраняет уже причиненный вред. Джесс Дэвис, журналист и активист, активно выступает за необходимость более надежных гарантий защиты от злоупотреблений, созданных искусственным интеллектом.

Конкретные технические меры, реализованные X для предотвращения создания Grok таких изображений, не были подробно описаны в объявлении. Однако такие меры обычно включают в себя сочетание фильтрации контента, алгоритмов распознавания изображений и ограничений на типы запросов, которые может обрабатывать AI. Эти фильтры предназначены для обнаружения и блокировки запросов, которые могут привести к созданию неприемлемого или вредоносного контента.

Этот инцидент подчеркивает растущие проблемы и этические соображения, связанные с инструментами на основе искусственного интеллекта, особенно в области манипулирования изображениями и технологии дипфейков. По мере развития технологии искусственного интеллекта разработчики и платформы сталкиваются с растущим давлением с целью внедрения гарантий, предотвращающих злоупотребления и защищающих людей от вреда. Продолжающееся расследование Ofcom подчеркивает возможность регулирующего вмешательства и необходимость соблюдения платформами местных законов и правил, касающихся контента, созданного искусственным интеллектом.