Le système de vérification d'âge basé sur l'IA récemment lancé par Roblox fait face à d'importantes critiques quelques jours seulement après son déploiement à plus grande échelle. Le système de scan facial, conçu pour estimer l'âge des utilisateurs avant d'accorder l'accès aux fonctions de chat, a suscité la controverse parmi les joueurs et les développeurs, et a soulevé des inquiétudes parmi les experts quant à son efficacité et à son impact sociétal potentiel.

Le système, initialement lancé dans certains endroits en décembre avant de s'étendre aux États-Unis et à d'autres pays la semaine dernière, vise à créer des environnements de chat plus sûrs en limitant les interactions aux utilisateurs d'âges similaires. Roblox a déclaré que l'intention derrière le système était de permettre aux utilisateurs de discuter en toute sécurité avec des utilisateurs d'âges similaires. Cependant, les joueurs signalent des problèmes d'identification erronée, entraînant des restrictions de communication avec leurs amis. Les développeurs demandent également un retour en arrière de la mise à jour, invoquant une perturbation de leurs communautés.

Le cœur du problème réside dans la précision de l'estimation de l'âge par l'IA. La technologie de reconnaissance faciale, bien qu'en évolution rapide, repose sur des algorithmes entraînés sur de vastes ensembles de données d'images. Ces algorithmes analysent les traits du visage pour prédire l'âge, mais peuvent être influencés par des facteurs tels que l'éclairage, la qualité de l'image et les variations individuelles de l'apparence. Lorsque l'IA identifie mal l'âge d'un utilisateur, cela peut entraîner des conséquences imprévues, telles que l'empêchement des jeunes utilisateurs d'accéder à un contenu adapté à leur âge ou, inversement, l'autorisation aux utilisateurs plus âgés d'accéder à des espaces destinés à un public plus jeune.

Les experts s'interrogent également sur la capacité du système à résoudre le problème sous-jacent des prédateurs en ligne. WIRED a signalé avoir trouvé des annonces sur eBay faisant la publicité de comptes vérifiés pour mineurs, âgés d'à peine 9 ans, à des prix aussi bas que 4 $. Ces annonces mettent en évidence une faille potentielle dans le système, où des acteurs malveillants peuvent contourner les restrictions d'âge en achetant des comptes vérifiés. Maddy Martinez, une porte-parole d'eBay, a déclaré que la société supprimait les annonces pour violation des politiques du site après que WIRED les ait signalées.

Cela soulève des questions plus larges sur l'éthique et l'efficacité de l'utilisation de l'IA pour la vérification de l'âge. Bien que la technologie offre une solution potentielle aux problèmes de sécurité en ligne, elle n'est pas sans limites. Le risque d'identification erronée, le potentiel de contournement et le manque de transparence dans le fonctionnement de ces algorithmes posent tous des défis. De plus, l'utilisation de la technologie de scan facial soulève des problèmes de confidentialité, en particulier concernant le stockage et l'utilisation des données biométriques.

L'état actuel du système est en cours d'examen par Roblox, car la société est confrontée à une pression croissante de sa base d'utilisateurs et de la communauté au sens large. Les prochains développements impliqueront probablement des ajustements aux algorithmes d'IA, des mécanismes d'évaluation des utilisateurs améliorés et potentiellement une réévaluation de l'approche globale de la vérification de l'âge. L'incident sert de rappel des complexités liées au déploiement de solutions basées sur l'IA et de l'importance de prendre en compte à la fois les avantages potentiels et les risques potentiels.