Правительство призвало Ofcom, британского регулятора в сфере коммуникаций, рассмотреть возможность использования всего спектра своих полномочий, включая потенциальный запрет, в отношении социальной сети X из-за опасений по поводу создания и распространения незаконных изображений, сгенерированных искусственным интеллектом. Эти действия последовали за растущей критикой в отношении использования AI-модели X, Grok, которая использовалась для цифрового изменения изображений, включая удаление одежды с людей.

Полномочия Ofcom в соответствии с Законом о безопасности в интернете позволяют ему добиваться судебных приказов, которые могут помешать третьим сторонам оказывать финансовую поддержку X или обеспечивать доступ к платформе на территории Великобритании. Усиление обеспокоенности правительства связано с потенциальной возможностью Grok генерировать изображения сексуального характера, особенно с изображением детей.

Премьер-министр сэр Кир Стармер осудил создание таких изображений, заявив: "Это позорно. Это отвратительно. И это недопустимо. Ofcom имеет нашу полную поддержку для принятия мер в связи с этим". Он также подчеркнул позицию правительства, добавив: "Это незаконно. Мы не собираемся это терпеть. Я попросил рассмотреть все варианты", - в интервью Greatest Hits Radio.

Правительственные источники подтвердили BBC News, что ожидают от Ofcom использования всех доступных полномочий в ответ на проблемы, связанные с Grok и X.

Основная проблема заключается в злоупотреблении генеративным ИИ, типом искусственного интеллекта, способным создавать новый контент, включая изображения, текст и аудио. Хотя генеративный ИИ обладает значительным потенциалом для инноваций и творчества, его злоупотребление вызывает серьезные этические и юридические вопросы. Дипфейки, сгенерированные ИИ медиафайлы, убедительно изображающие, как кто-то делает или говорит то, чего он не делал, представляют собой особенно тревожное применение. Возможность создавать реалистичные, но сфабрикованные изображения может быть использована в злонамеренных целях, включая распространение дезинформации, нанесение ущерба репутации и создание интимных изображений без согласия.

Закон о безопасности в интернете предоставляет Ofcom полномочия регулировать онлайн-сервисы и бороться с вредоносным контентом. Это включает в себя возможность налагать штрафы, требовать удаления незаконного контента и, в крайних случаях, блокировать доступ к платформам, которые не соблюдают закон. Призыв правительства к Ofcom рассмотреть возможность запрета подчеркивает серьезность его опасений относительно потенциального вреда, который может нанести контент, сгенерированный ИИ.

Ситуация подчеркивает проблемы регулирования быстро развивающихся технологий ИИ. По мере того, как модели ИИ становятся все более сложными, становится все труднее обнаруживать и предотвращать создание вредоносного контента. Это требует многогранного подхода, который включает в себя технологические решения, такие как инструменты обнаружения на основе ИИ, а также нормативно-правовые рамки и кампании по повышению осведомленности общественности.

Дебаты вокруг X и Grok отражают более широкую дискуссию об ответственности платформ социальных сетей в эпоху ИИ. Критики утверждают, что платформы обязаны предотвращать злоупотребление своими технологиями и защищать пользователей от вреда. Сторонники свободы слова, однако, предостерегают от чрезмерно ограничительных правил, которые могут подавить инновации и ограничить свободу выражения мнений.

В настоящее время Ofcom оценивает ситуацию и рассматривает свои варианты. Решение регулятора, вероятно, будет иметь значительные последствия для будущего регулирования ИИ в Великобритании и может создать прецедент для других стран, сталкивающихся с аналогичными проблемами. Следующие шаги включают в себя сбор доказательств Ofcom, консультации с экспертами и взаимодействие с X для решения проблем правительства. Исход этого процесса остается неопределенным, но ясно, что вопрос контента, сгенерированного ИИ, и его потенциального вреда будет оставаться в центре внимания регуляторов и политиков.