Ofcom, британский регулятор в сфере коммуникаций, начал расследование в отношении социальной сети X, принадлежащей Илону Маску (ранее известной как Twitter), в связи с опасениями по поводу потенциального создания и распространения сексуальных дипфейков, сгенерированных Grok, чат-ботом X на основе искусственного интеллекта. Расследование, о котором было объявлено в среду, сосредоточено на том, имеет ли X достаточные меры защиты, чтобы предотвратить использование инструмента ИИ для производства и распространения незаконного контента, в частности, интимных изображений, созданных без согласия.

В ходе проверки будет изучено соблюдение компанией X Закона о безопасности в Интернете (Online Safety Act), который возлагает на платформы юридическую обязанность проявлять заботу о защите пользователей от незаконного контента и деятельности. Ofcom имеет право штрафовать компании на сумму до 10% от их глобального оборота за нарушение этого закона. "Защита пользователей от незаконного контента в Интернете является нашим главным приоритетом", - заявил представитель Ofcom. "Мы проводим расследование в отношении X, чтобы оценить, предприняли ли они достаточные шаги для предотвращения использования Grok AI для создания и распространения незаконных дипфейков".

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиафайлы, в которых изображение или видео существующего человека заменяется изображением другого человека. Эта технология, основанная на сложных алгоритмах ИИ, вызвала серьезные опасения по поводу дезинформации, нарушения конфиденциальности и возможности злонамеренного использования, включая создание порнографии без согласия. Grok, чат-бот X на основе ИИ, представляет собой большую языковую модель (LLM), обученную на огромном наборе текстовых и кодовых данных, что позволяет ему генерировать текст, подобный человеческому, переводить языки и отвечать на вопросы. Опасение вызывает то, что пользователи могут побудить Grok к созданию изображений людей сексуального характера без их согласия.

Расследование подчеркивает растущие проблемы регулирования контента, созданного ИИ, и ответственность платформ, которые развертывают эти технологии. Эксперты утверждают, что, хотя ИИ предлагает многочисленные преимущества, он также открывает новые возможности для злоупотреблений. "Быстрое развитие технологий ИИ, таких как Grok, требует принятия упреждающих мер для смягчения потенциального вреда", - заявила доктор Аня Шарма, профессор этики ИИ в Кембриджском университете. "Платформы должны внедрить надежные меры защиты для предотвращения создания и распространения дипфейков, особенно тех, которые носят сексуальный характер и созданы без согласия".

X пока не опубликовала официального заявления относительно расследования Ofcom. Однако Маск ранее заявлял о своей приверженности борьбе со злоупотреблениями ИИ на платформе. Результаты расследования могут иметь серьезные последствия для X и других компаний, занимающихся социальными сетями, которые интегрируют ИИ в свои сервисы. Выводы Ofcom, вероятно, повлияют на разработку нормативно-правовой базы для контента, созданного ИИ, как в Великобритании, так и на международном уровне. Расследование продолжается, и Ofcom планирует предоставлять обновленную информацию по мере его продвижения.