Недавно запущенная компанией Roblox система подтверждения возраста на основе искусственного интеллекта столкнулась со значительной критикой всего через несколько дней после ее широкого развертывания. Система сканирования лица, предназначенная для оценки возраста пользователей перед предоставлением доступа к функциям чата, вызвала споры среди игроков и разработчиков, а также обеспокоенность среди экспертов относительно ее эффективности и потенциального воздействия на общество.

Система, которая первоначально была запущена в отдельных регионах в декабре, а на прошлой неделе распространилась на США и другие страны, направлена на создание более безопасной среды для общения, ограничивая взаимодействие пользователями одного возраста. Roblox заявила, что цель системы – позволить пользователям безопасно общаться с пользователями схожего возраста. Однако игроки сообщают о проблемах с неправильной идентификацией, что приводит к ограничению общения с друзьями. Разработчики также призывают к откату обновления, ссылаясь на сбои в их сообществах.

Суть проблемы заключается в точности оценки возраста ИИ. Технология распознавания лиц, хотя и быстро развивается, основана на алгоритмах, обученных на огромных наборах данных изображений. Эти алгоритмы анализируют черты лица для прогнозирования возраста, но могут зависеть от таких факторов, как освещение, качество изображения и индивидуальные различия во внешности. Когда ИИ неправильно определяет возраст пользователя, это может привести к непредвиденным последствиям, таким как запрет молодым пользователям на доступ к контенту, соответствующему их возрасту, или, наоборот, предоставление пожилым пользователям доступа к пространствам, предназначенным для более молодой аудитории.

Эксперты также ставят под сомнение способность системы решать основную проблему онлайн-хищников. WIRED сообщил об обнаружении объявлений на eBay о продаже аккаунтов несовершеннолетних с подтвержденным возрастом, начиная с 9 лет, по цене всего 4 доллара. Эти объявления подчеркивают потенциальную лазейку в системе, где злоумышленники могут обходить возрастные ограничения, покупая проверенные учетные записи. Мэдди Мартинес, представитель eBay, заявила, что компания удаляет эти объявления за нарушение политики сайта после того, как WIRED обратил на них внимание.

Это поднимает более широкие вопросы об этике и эффективности использования ИИ для подтверждения возраста. Хотя технология предлагает потенциальное решение проблем онлайн-безопасности, она не лишена ограничений. Риск неправильной идентификации, возможность обхода системы и отсутствие прозрачности в работе этих алгоритмов – все это создает проблемы. Кроме того, использование технологии сканирования лица вызывает опасения по поводу конфиденциальности, особенно в отношении хранения и использования биометрических данных.

В настоящее время статус системы находится на рассмотрении Roblox, поскольку компания сталкивается с растущим давлением со стороны своей пользовательской базы и широкой общественности. Следующие разработки, вероятно, будут включать корректировку алгоритмов ИИ, улучшенные механизмы обратной связи с пользователями и, возможно, переоценку общего подхода к подтверждению возраста. Этот инцидент служит напоминанием о сложностях, связанных с развертыванием решений на основе ИИ, и о важности учета как потенциальных преимуществ, так и потенциальных рисков.