Le système de vérification de l'âge basé sur l'IA récemment lancé par Roblox fait face à d'importantes critiques en raison d'inexactitudes et de son inefficacité potentielle à répondre aux préoccupations de sécurité en ligne. Le système de scan facial, conçu pour estimer l'âge des utilisateurs et restreindre les fonctions de chat à des groupes d'âge similaires, a été déployé aux États-Unis et dans d'autres pays la semaine dernière, après un lancement initial dans certains endroits en décembre. Roblox a mis en œuvre le système dans le but déclaré de créer des environnements de communication plus sûrs pour ses utilisateurs.

Cependant, le système a été accueilli avec une vive réaction de la part des joueurs qui signalent être incapables de chatter avec leurs amis, et les développeurs demandent un retour en arrière de la mise à jour. Des experts ont soulevé des inquiétudes quant au fait que l'IA classifie mal l'âge des jeunes joueurs, les identifiant parfois comme des adultes et vice versa. Cette mauvaise classification compromet l'objectif visé du système et perturbe les interactions sociales au sein de la plateforme.

Une critique centrale est que le système de vérification de l'âge pourrait ne pas lutter efficacement contre le problème des prédateurs utilisant Roblox pour manipuler de jeunes enfants. Les critiques soutiennent que la technologie ne s'attaque pas au problème sous-jacent des acteurs malveillants qui se présentent sous un faux jour en ligne.

Pour compliquer davantage la situation, WIRED a signalé avoir trouvé des annonces sur eBay faisant la publicité de comptes vérifiés en âge pour des mineurs dès l'âge de 9 ans, avec des prix aussi bas que 4 $. Ces annonces démontrent une vulnérabilité potentielle du système, où des individus peuvent contourner le processus de vérification de l'âge et accéder à des comptes qui présentent faussement l'âge de l'utilisateur. Suite au rapport de WIRED, eBay a supprimé les annonces, invoquant des violations des politiques du site. Maddy Martinez, une porte-parole d'eBay, a confirmé la suppression.

L'IA utilisée dans le système de vérification de l'âge de Roblox repose sur la technologie de reconnaissance faciale, qui analyse les traits du visage pour estimer l'âge. Ce type d'IA est entraîné sur de grands ensembles de données d'images et d'étiquettes d'âge associées. Cependant, la précision de ces systèmes peut être affectée par des facteurs tels que l'éclairage, la qualité de l'image et la diversité des données d'entraînement. Si les données d'entraînement ne sont pas représentatives de toutes les données démographiques, l'IA peut présenter des biais et des inexactitudes dans ses estimations d'âge.

Les implications d'une vérification d'âge inexacte s'étendent au-delà de la plateforme Roblox. À mesure que les systèmes de vérification de l'âge basés sur l'IA se généralisent sur Internet, les préoccupations concernant la confidentialité, les biais et le potentiel d'utilisation abusive se multiplient. La technologie soulève des questions sur l'équilibre entre la sécurité en ligne et les droits individuels.

L'état actuel du système de vérification de l'âge de Roblox reste en évolution. La société n'a pas encore annoncé de plans pour annuler la mise à jour, mais elle est susceptible de faire face à une pression croissante de la part des utilisateurs, des développeurs et des experts pour résoudre les problèmes. Les prochains développements impliqueront probablement que Roblox évalue les performances du système, corrige les inexactitudes et explore des approches alternatives à la sécurité en ligne.