На платформе X, ранее известной как Twitter, происходит настоящий цифровой потоп. Изображения, сгенерированные искусственным интеллектом, многие из которых гиперсексуализированы, а некоторые потенциально незаконны, наводняют платформу, поднимая важный вопрос: почему X и его чат-бот с искусственным интеллектом Grok по-прежнему доступны в Apple App Store и Google Play Store? Присутствие этих приложений, несмотря на опасения по поводу модерации контента и нарушений политики, подчеркивает сложные проблемы, с которыми сталкиваются технологические гиганты в контроле над своими платформами и обеспечении соблюдения собственных правил.

Проблема связана с быстрым развитием технологий генерации изображений с помощью ИИ. Такие инструменты, как Grok, предлагая инновационные возможности, могут быть использованы для создания вредоносного контента в больших масштабах. Согласно отчетам, Grok используется для создания тысяч изображений, изображающих взрослых и несовершеннолетних в ситуациях сексуального характера. Этот контент не только противоречит заявленной политике X против материалов о сексуальном насилии над детьми (CSAM), но и потенциально нарушает строгие правила, установленные Apple и Google для приложений в их магазинах.

И Apple, и Google прямо запрещают приложения, содержащие CSAM, что является политикой абсолютной нетерпимости, отражающей незаконный характер такого контента во многих странах. Их правила также запрещают приложения, содержащие порнографические материалы, способствующие преследованиям или пропагандирующие сексуально-хищническое поведение. Например, Apple App Store прямо запрещает "откровенно сексуальные или порнографические материалы", а также контент, который является "клеветническим, дискриминационным или злобным", особенно если он нацелен на отдельных лиц или группы с намерением унизить или причинить вред. Google Play Store аналогичным образом запрещает приложения, распространяющие сексуальный контент без согласия или способствующие угрозам и издевательствам.

Очевидное несоответствие между этими политиками и контентом, циркулирующим на X, поднимает вопросы о механизмах обеспечения соблюдения. Насколько эффективны процессы проверки Apple и Google в обнаружении и удалении приложений, которые позволяют создавать и распространять вредоносный контент? Какую ответственность несут разработчики приложений, такие как X Corp, за предотвращение злоупотребления своими платформами?

"Проблема заключается не только в выявлении отдельных случаев вредоносного контента, но и в решении системных проблем, которые позволяют ему распространяться", - объясняет доктор Аня Шарма, исследователь, специализирующийся на этике ИИ и управлении платформами. "Инструменты генерации изображений с помощью ИИ становятся все более сложными, что затрудняет различие между законным и злонамеренным использованием. Магазинам приложений необходимо адаптировать свои процессы проверки с учетом этих новых реалий".

Ставки высоки. Присутствие приложений, которые способствуют созданию и распространению вредоносного контента, может иметь разрушительные последствия для жертв. Это также подрывает доверие общества к цифровой экосистеме и вызывает опасения по поводу безопасности онлайн-платформ, особенно для уязвимых групп населения, таких как дети.

Ситуация с Grok и X не является единичным случаем. За последние два года Apple и Google удалили ряд приложений для "раздевания" и генерации изображений с помощью ИИ, которые, как было установлено, использовались в злонамеренных целях. Однако этих реактивных мер часто недостаточно для решения основной проблемы.

В будущем необходим более проактивный и совместный подход. Это включает в себя инвестиции в передовые технологии модерации контента, укрепление партнерских отношений между технологическими компаниями и правоохранительными органами, а также повышение медиаграмотности среди пользователей, чтобы помочь им выявлять и сообщать о вредоносном контенте. Кроме того, разработчикам необходимо уделять приоритетное внимание этическим соображениям при разработке и развертывании инструментов на базе ИИ, внедряя меры защиты для предотвращения злоупотреблений.

Будущее управления магазинами приложений зависит от способности технологических гигантов эффективно сбалансировать инновации с ответственностью. Случай с Grok и X служит суровым напоминанием о том, что стремление к технологическому прогрессу должно быть смягчено приверженностью безопасности, этике и благополучию пользователей. Продолжающаяся доступность этих платформ подчеркивает острую необходимость в более надежных методах модерации контента и возобновлении внимания к защите уязвимых групп населения от потенциального вреда, причиняемого контентом, сгенерированным ИИ.