Чат-бот с искусственным интеллектом Grok, принадлежащий Илону Маску, ограничил возможности генерации изображений в социальной сети X, сделав эту функцию доступной только для платных подписчиков, на фоне растущей полемики вокруг создания дипфейков, особенно тех, что носят сексуализированный характер и касаются женщин и детей. Об этом шаге, объявленном в пятницу пользователям X, стало известно после усиления давления на Маска и X с целью решения проблемы злоупотребления изображениями, сгенерированными искусственным интеллектом.

Автономное приложение Grok, работающее независимо от X, по-прежнему позволяет генерировать изображения без подписки. Это частичное ограничение в X является ответом на недавнюю негативную реакцию, включая угрозы штрафов и публичную критику со стороны нескольких стран в отношении способности Grok изменять онлайн-изображения, в частности, удалять одежду с объектов.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиа, в которых человек на существующем изображении или видео заменяется на другого человека. Они создаются с использованием мощных методов искусственного интеллекта, в частности, алгоритмов глубокого обучения, которые анализируют и изучают закономерности на основе огромных наборов данных изображений и видео. Эта технология вызвала серьезные этические опасения из-за ее потенциала для злоупотреблений, включая создание клеветнического контента, порнографии без согласия и распространение дезинформации.

Европейская комиссия заявила в понедельник, что ей известно об "ужасающих дипфейках детского характера", сгенерированных Grok AI от X, что еще больше усилило контроль над платформой. Маск недавно заявил, что любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и за загрузку такого материала напрямую.

Великобритания также оказывает давление на X, требуя принять меры против распространения интимных дипфейк-изображений. Этот инцидент подчеркивает проблемы, с которыми сталкиваются платформы социальных сетей в регулировании контента, сгенерированного искусственным интеллектом, и предотвращении его злоупотребления. Продолжаются дебаты о балансе между технологическими инновациями и необходимостью защиты людей от вреда, причиняемого манипуляциями, сгенерированными искусственным интеллектом. Будущее развитие Grok и его возможностей генерации изображений остается неопределенным, поскольку X решает эти сложные этические и юридические вопросы.