Правительство призвало Ofcom, британский регулятор в сфере коммуникаций, рассмотреть возможность использования всего спектра своих полномочий, включая потенциальный запрет, в отношении социальной сети X из-за опасений по поводу распространения на платформе незаконных изображений, сгенерированных искусственным интеллектом. Эти действия вызваны растущей тревогой по поводу использования AI-модели X, Grok, для создания дипфейков, в частности, тех, которые в цифровом виде раздевают людей на изображениях.

Полномочия Ofcom, предоставленные в соответствии с Законом о безопасности в интернете (Online Safety Act), позволяют ему обращаться в суд за ордерами, которые могут помешать сторонним организациям оказывать финансовую поддержку или обеспечивать доступ к X на территории Великобритании. Повышенная обеспокоенность правительства вызвана потенциальной возможностью Grok генерировать изображения сексуального характера, в том числе с изображением детей.

Премьер-министр сэр Кир Стармер осудил создание таких изображений, заявив: "Это позорно. Это отвратительно. И это недопустимо. Ofcom имеет нашу полную поддержку в принятии мер в связи с этим". Он также подчеркнул позицию правительства, добавив: "Это незаконно. Мы не собираемся это терпеть. Я попросил рассмотреть все варианты". Правительственные источники подтвердили BBC News, что Ofcom, как ожидается, изучит все доступные меры в ответ на проблемы, связанные с Grok, в X.

Дипфейки, тип синтетических медиа, используют искусственный интеллект, в частности, методы глубокого обучения, для создания реалистичных, но сфабрикованных изображений, видео или аудиозаписей. Эта технология поднимает серьезные этические и юридические вопросы, особенно когда используется для создания интимных изображений без согласия или распространения дезинформации. Способность ИИ убедительно изменять или фабриковать контент создает проблему для проверки информации и защиты людей от вреда.

Закон о безопасности в интернете (Online Safety Act) предоставляет Ofcom значительные полномочия по регулированию онлайн-платформ и борьбе с вредоносным контентом. Это включает в себя возможность штрафовать компании, блокировать доступ к веб-сайтам и потенциально привлекать к ответственности отдельных руководителей за неспособность защитить пользователей. Закон направлен на создание основы для безопасности в интернете, требуя от платформ удалять незаконный контент и защищать пользователей от вреда.

Ситуация подчеркивает продолжающиеся дебаты о регулировании ИИ и его потенциальном влиянии на общество. По мере того как технология ИИ продолжает развиваться, политики и регулирующие органы пытаются сбалансировать инновации с необходимостью защиты людей от потенциального вреда, связанного с его злоупотреблением. Результат расследования Ofcom и любые последующие действия, предпринятые против X, вероятно, создадут прецедент для того, как Великобритания регулирует контент, сгенерированный ИИ, на онлайн-платформах. Ожидается, что регулятор теперь рассмотрит доказательства и определит надлежащий курс действий, учитывая весь объем своих полномочий в соответствии с Законом о безопасности в интернете (Online Safety Act).