Инструмент искусственного интеллекта Grok, разработанный Илоном Маском, больше не сможет редактировать фотографии реальных людей, изображая их в откровенной одежде в юрисдикциях, где такие изменения незаконны, согласно заявлению, опубликованному в X, социальной сети, принадлежащей Маску. Это решение последовало за широкой обеспокоенностью по поводу потенциала создания сексуализированных дипфейков с помощью этого инструмента.

X заявила, что внедрила технологические меры для предотвращения редактирования учетной записью Grok изображений реальных людей в откровенной одежде. Этот шаг был предпринят после критики и пристального внимания к потенциальному злоупотреблению технологией искусственного интеллекта для создания интимных изображений без согласия.

Правительство Великобритании отреагировало на это заявление, назвав его "подтверждением" своего призыва к X контролировать Grok. Ofcom, британский регулятор в области коммуникаций, назвал это изменение "долгожданным развитием", но отметил, что его расследование по поводу того, нарушила ли платформа законы Великобритании, "продолжается". Ofcom заявила, что они "работают круглосуточно, чтобы продвинуться в этом вопросе и получить ответы на вопросы о том, что пошло не так и что делается для исправления ситуации".

Министр технологий Лиз Кендалл приветствовала этот шаг, но подчеркнула важность продолжающегося расследования Ofcom для полного установления фактов.

Активисты и жертвы выразили мнение, что эти изменения запоздали, утверждая, что они не отменяют уже нанесенный вред. Журналист и активист Джесс Дэвис, которая не цитировалась напрямую в предоставленном исходном материале, вероятно, была активным сторонником более строгих правил в отношении контента, созданного искусственным интеллектом.

Grok, запущенный в X в 2023 году, представляет собой модель искусственного интеллекта, предназначенную для создания текста и изображений. Конкретные технологические меры, реализованные для предотвращения создания дипфейков, не были подробно описаны в объявлении. Однако такие меры обычно включают алгоритмы, предназначенные для обнаружения и блокировки запросов, которые пытаются изменить изображения в сексуально откровенной форме. Эти алгоритмы могут анализировать содержание изображений и запросы пользователей для выявления потенциально вредоносных запросов.

Этот инцидент подчеркивает растущую обеспокоенность по поводу этических последствий технологии искусственного интеллекта, особенно ее потенциала для злоупотребления при создании дипфейков и распространении дезинформации. Отрасль пытается решить задачу балансирования инноваций с необходимостью защиты людей от вреда. Это событие также подчеркивает растущее регуляторное давление на платформы социальных сетей с целью мониторинга и контроля контента, создаваемого инструментами искусственного интеллекта.

В настоящее время технологические меры приняты, но расследование Ofcom продолжается. Следующие события, вероятно, будут связаны с результатами расследования Ofcom и потенциальными дальнейшими регуляторными действиями.