По спине Сары пробежал холодок, когда она просматривала форум. Это было не обычное собрание любительских дипфейков; эти видео были другими. Гиперреализм был тревожным, сценарии — пугающими. То, что начиналось как болезненное любопытство, быстро переросло в тревогу. Это были не просто изображения; это были тщательно проработанные сцены откровенного сексуального содержания, словно вызванные из глубин чьего-то воображения и воплощенные в жизнь искусственным интеллектом. И инструментом, ответственным за это, судя по разговорам на форуме, был Grok.

Открытие того, что чат-бот с искусственным интеллектом Grok от Илона Маска способен генерировать сексуальный контент, гораздо более откровенный, чем разрешено в X, платформе, которой он также владеет, вызвало бурю споров. В то время как возможности Grok по созданию изображений в X подвергаются некоторому общественному контролю, отдельная, менее заметная платформа — веб-сайт и приложение Grok — содержит сложный инструмент для создания видео под названием Imagine. Этот инструмент, скрытый от общедоступного просмотра по умолчанию, как сообщается, используется для создания чрезвычайно откровенных, иногда жестоких, сексуальных изображений взрослых. Потенциальная возможность создания сексуализированных видео с участием несовершеннолетних также вызывает серьезную обеспокоенность.

Последствия этой технологии огромны. Создание изображений и видео с помощью ИИ в последние годы пережило взрывной рост, подпитываемый достижениями в области генеративных состязательных сетей (GAN) и диффузионных моделей. Эти сложные алгоритмы учатся на огромных наборах данных изображений и видео, что позволяет им создавать совершенно новый контент, который может быть поразительно реалистичным. Хотя эти технологии обладают огромным потенциалом для творческого самовыражения, образования и даже медицинской визуализации, у них также есть темная сторона: легкость, с которой они могут быть использованы для создания вредоносного и эксплуататорского контента.

В отличие от X, где результаты работы Grok обычно являются общедоступными, изображения и видео, созданные в приложении или на веб-сайте Grok, по умолчанию не распространяются открыто. Это создает опасную среду, в которой создание и распространение тревожного контента может происходить практически бесконтрольно. Хотя пользователи могут делиться URL-адресами Imagine, делая контент видимым для любого, у кого есть ссылка, отсутствие присущей общественной видимости допускает определенную степень секретности, что усугубляет проблему.

Расследование WIRED кеша из примерно 1200 ссылок Imagine, некоторые из которых проиндексированы Google, а другие опубликованы на форуме дипфейк-порно, рисует тревожную картину. Обнаруженные видео были гораздо более откровенными, чем изображения, созданные Grok в X, что вызывает серьезные вопросы о мерах защиты, принятых для предотвращения создания вредоносного контента.

"Скорость, с которой развиваются эти технологии, опережает нашу способность понимать и регулировать их", — говорит доктор Эмили Картер, профессор этики ИИ в Стэнфордском университете. "Мы наблюдаем сценарий Дикого Запада, когда мощные инструменты развертываются с небольшим учетом потенциальных последствий". Доктор Картер подчеркивает необходимость надежных этических принципов и нормативных рамок для регулирования разработки и использования контента, созданного ИИ. "Недостаточно просто полагаться на добрую волю технологических компаний", — утверждает она. "Нам нужны четкие правовые стандарты и независимый надзор, чтобы гарантировать ответственное использование этих технологий".

Ситуация с Grok высвечивает важнейшую проблему, стоящую перед индустрией ИИ: баланс между инновациями и этической ответственностью. Хотя такие компании, как OpenAI и Google, внедрили меры защиты, чтобы предотвратить создание их моделями ИИ вредоносного контента, эти меры часто несовершенны и могут быть обойдены целеустремленными пользователями. Открытый исходный код многих моделей ИИ также затрудняет контроль над их использованием, поскольку любой может загрузить и изменить код, чтобы обойти существующие ограничения.

Рост сексуального контента, созданного ИИ, поднимает множество юридических и этических вопросов. Является ли незаконным создание изображений реальных людей, сгенерированных ИИ, без их согласия? Какую ответственность несут технологические компании за контент, созданный их моделями ИИ? Как мы можем защитить детей от эксплуатации с помощью изображений, сгенерированных ИИ? Это сложные вопросы, на которые нет простых ответов.

Заглядывая в будущее, разработка более сложных моделей ИИ только усугубит эти проблемы. Поскольку ИИ становится все более способным генерировать реалистичный и убедительный контент, будет все труднее различать, что реально, а что подделка. Это может иметь серьезные последствия для всего: от политики и журналистики до личных отношений и самой природы истины.

Споры вокруг Grok служат суровым напоминанием о настоятельной необходимости более широкого общественного обсуждения этических последствий ИИ. Мы должны разработать всеобъемлющую основу для регулирования контента, созданного ИИ, которая защищает уязвимые группы населения, способствует ответственным инновациям и обеспечивает целостность нашей информационной экосистемы. От этого зависит будущее ИИ.