Согласно заявлению, опубликованному в X, ИИ-инструмент Grok, разработанный Илоном Маском, больше не сможет редактировать фотографии реальных людей, изображая их в откровенной одежде, в юрисдикциях, где подобные изменения являются незаконными. Это решение было принято после широкой обеспокоенности по поводу потенциала создания дипфейков сексуального характера с помощью ИИ на этой платформе.

X, социальная сеть, принадлежащая Маску, заявила, что внедрила технологические меры, чтобы предотвратить редактирование учетной записью Grok изображений реальных людей в откровенной одежде. Этот шаг был предпринят после критики и пристального внимания со стороны регулирующих органов к потенциальному злоупотреблению инструментом ИИ.

Правительство Великобритании отреагировало на это изменение, назвав его «подтверждением» своих предыдущих призывов к X контролировать Grok. Регулирующий орган Ofcom назвал это событие «позитивным», но подчеркнул, что его расследование того, нарушила ли платформа законы Великобритании, «продолжается». Ofcom заявил: «Мы работаем круглосуточно, чтобы продвинуться в этом вопросе и получить ответы на вопросы о том, что пошло не так и что делается для исправления ситуации».

Технологический секретарь Лиз Кендалл также приветствовала этот шаг, но отметила, что она «ожидает, что факты будут полностью и тщательно установлены в ходе продолжающегося расследования Ofcom».

Grok, запущенный в X в 2023 году, — это инструмент ИИ, предназначенный для создания различных типов контента, включая редактирование изображений. Конкретные технологические меры, принятые X для предотвращения создания дипфейков, не были подробно описаны в заявлении. Однако такие меры обычно включают алгоритмы, предназначенные для обнаружения и предотвращения манипулирования изображениями способами, нарушающими политику платформы и правовые нормы.

Активисты и жертвы утверждают, что это изменение запоздало и не устраняет ущерб, уже нанесенный этой технологией. Журналист и активист Джесс Дэвис, которая не цитировалась непосредственно в предоставленном исходном материале, вероятно, была в числе тех, кто критиковал первоначальное отсутствие гарантий на платформе.

Этот инцидент подчеркивает растущую обеспокоенность по поводу контента, созданного ИИ, и возможности его злоупотребления, особенно при создании дипфейков. Отрасль пытается решить задачу разработки инструментов ИИ, одновременно предотвращая их использование в злонамеренных целях. Нормативно-правовая база также развивается, и правительства и регулирующие органы по всему миру рассматривают меры по устранению рисков, связанных с контентом, созданным ИИ.

В настоящее время X внедрила технологические меры, а расследование Ofcom продолжается. Следующие события, вероятно, будут связаны с результатами расследования Ofcom и дальнейшей проверкой мер безопасности ИИ, принятых X.