Правительство Великобритании призвало Ofcom, национальный регулятор в сфере коммуникаций, рассмотреть возможность использования всего спектра своих полномочий, вплоть до запрета, в отношении социальной сети X из-за опасений по поводу незаконных дипфейков, созданных с помощью искусственного интеллекта, которые появляются на платформе. Эти действия вызваны растущей обеспокоенностью по поводу использования AI-модели X, Grok, для создания цифровых изображений с изменениями, в том числе удаляющих одежду с людей.

Полномочия Ofcom в соответствии с Законом о безопасности в интернете позволяют регулятору добиваться судебных приказов, которые могут помешать третьим сторонам поддерживать финансовые операции X или его доступность на территории Великобритании. Усиление обеспокоенности правительства связано с возможностью использования Grok для создания изображений сексуального характера, особенно с изображением детей.

Премьер-министр сэр Кир Стармер осудил создание таких изображений, заявив: "Это позорно. Это отвратительно. И это недопустимо. Ofcom имеет нашу полную поддержку в принятии мер в связи с этим". Он также подчеркнул позицию правительства, добавив: "Это незаконно. Мы не собираемся это терпеть. Я попросил рассмотреть все варианты". Правительственные источники подтвердили BBC News, что ожидают от Ofcom использования всех доступных полномочий для решения проблемы Grok на X.

Дипфейки, форма синтетических медиа, используют искусственный интеллект, в частности методы глубокого обучения, для создания очень реалистичных, но сфабрикованных изображений, видео или аудиозаписей. Эта технология вызывает серьезные этические и социальные проблемы, включая возможность дезинформации, клеветы и неконсенсуальной порнографии. Способность убедительно изменять изображения и видео может подорвать доверие к визуальной информации и создать проблемы в различении реальности и вымысла.

Закон о безопасности в интернете предоставляет Ofcom значительные регулирующие полномочия для борьбы с вредоносным контентом в интернете. Эти полномочия включают в себя возможность штрафовать компании, которые не защищают пользователей от незаконного контента, а в крайних случаях - блокировать доступ к веб-сайтам. Призыв правительства к Ofcom рассмотреть возможность запрета подчеркивает серьезность его опасений по поводу потенциального злоупотребления искусственным интеллектом на платформах социальных сетей.

Эта ситуация подчеркивает продолжающиеся дебаты вокруг регулирования искусственного интеллекта и его потенциального воздействия на общество. По мере того, как технология искусственного интеллекта продолжает развиваться, регуляторы и политики сталкиваются с задачей сбалансировать инновации с необходимостью защиты людей от вреда. Исход расследования Ofcom и любые последующие действия, предпринятые против X, вероятно, создадут прецедент для того, как контент, созданный с помощью искусственного интеллекта, будет регулироваться в Великобритании, и потенциально повлияют на аналогичные дискуссии в других странах. Ожидается, что теперь регулятор оценит доказательства и определит надлежащий курс действий, учитывая весь объем своих полномочий в соответствии с Законом о безопасности в интернете.