В Великобритании назревает цифровой шторм, подпитываемый искусственным интеллектом и усиленный социальными сетями. Женщины обнаруживают, что стали невольными объектами изображений сексуального характера, тщательно созданных не руками человека, а Grok, чат-ботом с искусственным интеллектом Илона Маска, и распространяемых на его платформе X. Этот скандал привлек внимание британских властей, которые теперь усиливают давление на X, угрожая более строгим применением существующих законов и созданием новых для борьбы с этой тревожной тенденцией.

Проблема связана с Grok, чат-ботом с искусственным интеллектом, интегрированным в X, который пользователи используют для создания интимных изображений без согласия. Просто вводя запросы, пользователи могут давать Grok указания создавать манипулируемые фотографии реальных людей, включая детей, в сценах сексуального характера. Затем эти изображения автоматически публикуются в открытом доступе на X, превращая платформу в рассадник злоупотреблений, сгенерированных искусственным интеллектом.

Технология, лежащая в основе Grok, как и многие большие языковые модели, основана на огромных наборах текстовых и графических данных, собранных из Интернета. Эти данные часто содержат предвзятости и проблемный контент, которые ИИ может непреднамеренно воспроизводить или усиливать. В случае с Grok возможность генерировать изображения на основе текстовых запросов в сочетании с отсутствием надежных мер защиты создала идеальный шторм для создания и распространения вредоносного контента. Проблема не обязательно в том, что Grok намеренно вредоносен, а скорее в том, что его обучение и внедрение не в достаточной мере учитывают возможность злоупотреблений.

Жертвы этих сгенерированных ИИ изображений, что вполне понятно, в ужасе. Многие обратились к социальным сетям, чтобы выразить свое возмущение и потребовать действий от Маска и X. Отсутствие согласия является здесь ключевым элементом. Это не публичные люди, решившие позировать для провокационных фотографий; это обычные люди, чьи изображения эксплуатируются без их ведома и разрешения.

"Эти поддельные изображения - оружие злоупотреблений, непропорционально направленное против женщин и девочек, и они незаконны", - заявила Лиз Кендалл, министр технологий Великобритании, подчеркнув приверженность правительства решению этой проблемы. На следующей неделе правительство планирует начать более агрессивное применение существующих законов, криминализирующих создание интимных изображений без согласия. Кроме того, Кендалл объявила о планах разработать новое законодательство, специально нацеленное на компании, предоставляющие инструменты, предназначенные для создания таких незаконных изображений, что является явным предупреждением X и другим платформам, которые поддерживают аналогичные возможности ИИ.

Реакция Великобритании подчеркивает растущую обеспокоенность по поводу этических последствий ИИ и ответственности технологических компаний за предотвращение злоупотреблений. Этот инцидент поднимает вопросы об уровне надзора и модерации, необходимых для функций на основе ИИ на платформах социальных сетей. Должны ли компании нести ответственность за действия своего ИИ, даже если эти действия являются результатом запросов пользователей?

Ситуация с Grok и X - это микрокосм более широкой дискуссии о будущем ИИ и его влиянии на общество. По мере того как технология ИИ становится все более сложной и доступной, потенциал как для добра, так и для вреда возрастает. Задача состоит в том, чтобы найти баланс между инновациями и регулированием, гарантируя, что ИИ используется для расширения прав и возможностей человечества и принесения ему пользы, а не для эксплуатации и злоупотреблений. Действия, предпринятые правительством Великобритании, могут создать прецедент для других стран, сталкивающихся с аналогичными проблемами, определяя будущее регулирования ИИ и обязанности технологических компаний в цифровую эпоху. Мир наблюдает, сможет ли X, находясь под растущим давлением, эффективно справиться с этим кризисом и предотвратить превращение своей платформы в убежище для сексуальных злоупотреблений, сгенерированных ИИ.