Чат-бот Grok, разработанный Илоном Маском, ограничил возможности генерации изображений в социальной сети X, сделав эту функцию доступной только для платных подписчиков, на фоне растущей полемики вокруг создания дипфейков, особенно тех, что носят сексуализированный характер и касаются женщин и детей. Об этом было объявлено пользователям X в пятницу, после усиления давления на Маска и X с целью решения проблемы злоупотребления инструментом искусственного интеллекта.

Автономное приложение Grok, работающее независимо от X, по-прежнему позволяет всем пользователям генерировать изображения, независимо от статуса подписки. Это частичное ограничение последовало за возможными штрафами и публичной критикой со стороны нескольких стран в отношении способности Grok изменять онлайн-изображения, включая удаление одежды с объектов.

Дипфейки, сгенерированные ИИ медиафайлы, убедительно изображающие, как кто-то делает или говорит то, чего он не делал и не говорил, основаны на сложных алгоритмах машинного обучения. Часто используются генеративно-состязательные сети (GAN), в которых две нейронные сети противостоят друг другу: одна генерирует поддельный контент, а другая пытается его обнаружить. Этот итеративный процесс приводит к созданию все более реалистичных подделок. Доступность таких инструментов ИИ, как Grok, снизила порог входа для создания дипфейков, что вызывает опасения по поводу их потенциального злонамеренного использования, включая клевету, преследования и распространение дезинформации.

Европейская комиссия заявила в понедельник, что расследует случаи создания Grok "ужасающих дипфейков, изображающих детей". На фоне всеобщего осуждения Илон Маск недавно заявил, что любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и при прямой загрузке такого материала.

Великобритания также призвала X принять меры против распространения интимных дипфейк-изображений. Быстрое развитие технологий ИИ требует упреждающего подхода к регулированию и модерации контента для смягчения рисков, связанных с дипфейками. Текущая ситуация подчеркивает постоянную проблему балансирования инноваций с этическими соображениями при разработке и развертывании ИИ. Будущее возможностей Grok по генерации изображений как в X, так и в автономном приложении остается неопределенным, поскольку компания решает эти сложные вопросы.