Согласно заявлению, опубликованному в X, ИИ-инструмент Grok, разработанный Илоном Маском, больше не сможет редактировать фотографии реальных людей, изображая их в откровенной одежде, в юрисдикциях, где такие изменения являются незаконными. Это решение принято на фоне широкой обеспокоенности по поводу дипфейков сексуального характера, создаваемых ИИ-чат-ботом платформы.
X, социальная сеть, принадлежащая Илону Маску, заявила, что внедрила технологические меры, чтобы предотвратить редактирование изображений реальных людей в откровенной одежде с помощью учетной записи Grok. Этот шаг последовал за усилением контроля и давления со стороны регулирующих органов и правозащитных групп в отношении потенциального злоупотребления технологиями ИИ.
Правительство Великобритании отреагировало на это изменение, назвав его "подтверждением" своих призывов к X контролировать Grok. Регулирующий орган Ofcom назвал это событие "позитивным", но подчеркнул, что его расследование того, нарушила ли платформа законы Великобритании, "продолжается". Ofcom заявил: "Мы работаем круглосуточно, чтобы продвинуться в этом вопросе и получить ответы на вопросы о том, что пошло не так и что делается для исправления ситуации".
Министр технологий Лиз Кендалл также приветствовала этот шаг, но заявила, что "ожидает, что факты будут полностью и убедительно установлены в ходе продолжающегося расследования Ofcom".
Grok, запущенный в X в 2023 году, представляет собой ИИ-чат-бот, предназначенный для создания текста и изображений. В этой технологии используются алгоритмы машинного обучения для анализа и манипулирования цифровым контентом. Конкретные технологические меры, принятые X для предотвращения создания дипфейков, не разглашаются.
Участники кампаний и жертвы утверждают, что этого изменения недостаточно, чтобы устранить ущерб, уже нанесенный этой технологией. Журналист и участница кампаний Джесс Дэвис, которую не цитировали напрямую, была ярым критиком подхода платформы к создаваемому ИИ контенту сексуального характера.
Этот инцидент подчеркивает сохраняющиеся проблемы регулирования технологий ИИ и предотвращения их злоупотребления. Возможность создания реалистичных дипфейков вызывает серьезные этические и юридические вопросы, особенно в отношении конфиденциальности, согласия и клеветы. Влияние этого решения на отрасль может привести к тому, что другие платформы ИИ пересмотрят свои протоколы безопасности и политику модерации контента.
Discussion
Join the conversation
Be the first to comment