Ofcom, британский регулятор в сфере коммуникаций, начал расследование в отношении социальной сети X, принадлежащей Илону Маску и ранее известной как Twitter, в связи с опасениями по поводу распространения дипфейков сексуального характера, сгенерированных Grok, чат-ботом X на основе искусственного интеллекта. Расследование, о котором было объявлено в среду, сосредоточено на том, располагает ли X адекватными системами для предотвращения создания и распространения этих изображений, сгенерированных ИИ, особенно тех, на которых изображены лица, не дававшие своего согласия.

В ходе проверки будет дана оценка соответствия X Закону о безопасности в интернете, который возлагает на платформы юридическую обязанность заботиться о защите пользователей от незаконного и вредоносного контента. Ofcom конкретно изучает, нарушила ли X свои обязательства в отношении незаконного контента, включая материалы о сексуальном насилии над детьми, а также создание и распространение дипфейков без согласия. Основное внимание уделяется возможности злоупотребления Grok для создания реалистичных, но сфабрикованных изображений сексуального характера, что вызывает серьезные опасения по поводу конфиденциальности, репутации и возможности преследования и шантажа.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиафайлы, в которых человек на существующем изображении или видео заменяется на другого человека. Эта технология использует сложные алгоритмы ИИ, в частности глубокие нейронные сети, для убедительной замены лиц или манипулирования аудио- и видеоконтентом. Хотя дипфейки имеют потенциальное применение в сфере развлечений и образования, их неправильное использование создает значительные риски. Создание интимных изображений без согласия, часто называемых "порноместью" с использованием дипфейков, вызывает растущую обеспокоенность, поскольку эти изображения могут причинить серьезные эмоциональные страдания и нанести ущерб репутации жертвам.

"Защита людей от незаконного контента в интернете является приоритетом", - заявил представитель Ofcom. "Мы проводим расследование в отношении X, чтобы оценить, предприняла ли она надлежащие шаги для предотвращения создания и распространения незаконных дипфейков на своей платформе".

X пока не опубликовала официального заявления относительно расследования Ofcom. Однако Илон Маск ранее заявлял о своей приверженности борьбе со злоупотреблениями ИИ на платформе. Политика компании запрещает создание и распространение контента, который эксплуатирует, оскорбляет или подвергает опасности детей, и она внедрила меры для выявления и удаления таких материалов. Однако критики утверждают, что этих мер недостаточно для борьбы с быстро развивающейся угрозой дипфейков, сгенерированных ИИ.

Расследование проводится на фоне растущего глобального внимания к потенциальным злоупотреблениям ИИ. Правительства и регулирующие органы по всему миру пытаются сбалансировать преимущества инноваций в области ИИ с необходимостью защиты людей от вреда. Европейский Союз, например, завершает работу над своим Законом об ИИ, который установит строгие правила для систем ИИ с высоким уровнем риска, включая те, которые используются для создания дипфейков.

Результаты расследования Ofcom могут иметь серьезные последствия для X и других платформ социальных сетей. Если будет установлено, что X нарушила Закон о безопасности в интернете, ей могут грозить значительные штрафы и потребуется внедрить более надежные меры защиты для предотвращения создания и распространения незаконного контента. Расследование продолжается, и Ofcom не предоставила сроков его завершения. Результаты, вероятно, повлияют на будущие нормативные подходы к контенту, сгенерированному ИИ, на платформах социальных сетей.