Правительство призвало Ofcom, британского регулятора в сфере коммуникаций, рассмотреть возможность использования всего спектра своих полномочий, вплоть до запрета, в отношении социальной сети X из-за опасений по поводу распространения на платформе незаконных изображений, сгенерированных искусственным интеллектом. Эти действия вызваны растущей обеспокоенностью по поводу использования AI-модели X, Grok, для создания дипфейков, в частности, тех, которые в цифровом виде раздевают людей на изображениях.

В соответствии с Законом о безопасности в интернете, Ofcom имеет право обращаться в суд за ордерами, которые могут помешать третьим сторонам помогать X, принадлежащей Илону Маску, в привлечении капитала или в обеспечении доступа к платформе на территории Соединенного Королевства. Особую обеспокоенность правительства вызывает потенциальное создание изображений детей сексуального характера с использованием Grok.

Премьер-министр сэр Кир Стармер осудил создание таких изображений, заявив: "Это позорно. Это отвратительно. И это недопустимо. Ofcom имеет нашу полную поддержку в принятии мер в связи с этим". Он также подчеркнул позицию правительства, добавив: "Это незаконно. Мы не собираемся это терпеть. Я попросил рассмотреть все варианты", - в интервью Greatest Hits Radio. Правительственные источники подтвердили BBC News, что они "ожидают, что Ofcom использует все имеющиеся в его распоряжении полномочия в отношении Grok X".

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиа, в которых человек на существующем изображении или видео заменяется на другого человека с использованием искусственного интеллекта. Хотя дипфейки имеют различные применения, включая развлечения и художественное выражение, их потенциал для злоупотреблений, таких как создание интимных изображений без согласия или распространение дезинформации, вызывает серьезные этические и юридические вопросы. Сложность AI-моделей, таких как Grok, затрудняет различение подлинного и манипулируемого контента, что еще больше усложняет проблему.

Закон о безопасности в интернете предоставляет Ofcom значительные полномочия по регулированию онлайн-контента и защите пользователей от вреда. Эти полномочия включают в себя возможность налагать штрафы, требовать удаления незаконного контента и, в крайних случаях, блокировать доступ к веб-сайтам. Призыв правительства к Ofcom рассмотреть возможность запрета X подчеркивает серьезность, с которой оно относится к потенциальному вреду, связанному с дипфейками, сгенерированными искусственным интеллектом.

Ситуация остается изменчивой, и пока неясно, какие конкретные действия предпримет Ofcom. Ожидается, что регулятор тщательно рассмотрит доказательства и правовую базу, прежде чем принимать решение. Исход этого дела может иметь значительные последствия для регулирования контента, сгенерированного искусственным интеллектом, и ответственности платформ социальных сетей в решении проблемы злоупотребления AI-технологиями.