El sistema de verificación de edad impulsado por IA que Roblox lanzó recientemente está enfrentando críticas significativas debido a imprecisiones y su potencial ineficacia para abordar las preocupaciones de seguridad en línea. El sistema de escaneo facial, diseñado para estimar las edades de los usuarios y restringir las funciones de chat a grupos de edad similares, se implementó en los EE. UU. y otros países la semana pasada, luego de un lanzamiento inicial en ubicaciones selectas en diciembre. Roblox implementó el sistema con el objetivo declarado de crear entornos de comunicación más seguros para sus usuarios.

Sin embargo, el sistema se ha topado con una reacción violenta de los jugadores que informan no poder chatear con amigos, y los desarrolladores están pidiendo una reversión de la actualización. Los expertos han expresado su preocupación de que la IA esté clasificando erróneamente las edades de los jugadores jóvenes, a veces identificándolos como adultos y viceversa. Esta clasificación errónea socava el propósito previsto del sistema e interrumpe las interacciones sociales dentro de la plataforma.

Una crítica central es que el sistema de verificación de edad puede no combatir eficazmente el problema de los depredadores que usan Roblox para manipular a niños pequeños. Los críticos argumentan que la tecnología no aborda el problema subyacente de los actores maliciosos que se hacen pasar por otros en línea.

Para complicar aún más el problema, WIRED informó haber encontrado listados en eBay que anunciaban cuentas verificadas por edad para menores de hasta 9 años, con precios tan bajos como $4. Estos listados demuestran una vulnerabilidad potencial en el sistema, donde las personas pueden eludir el proceso de verificación de edad y obtener acceso a cuentas que tergiversan la edad del usuario. Tras el informe de WIRED, eBay eliminó los listados, citando violaciones de las políticas del sitio. Maddy Martinez, portavoz de eBay, confirmó la eliminación.

La IA utilizada en el sistema de verificación de edad de Roblox se basa en la tecnología de reconocimiento facial, que analiza los rasgos faciales para estimar la edad. Este tipo de IA se entrena con grandes conjuntos de datos de imágenes y etiquetas de edad asociadas. Sin embargo, la precisión de estos sistemas puede verse afectada por factores como la iluminación, la calidad de la imagen y la diversidad de los datos de entrenamiento. Si los datos de entrenamiento no son representativos de todos los grupos demográficos, la IA puede exhibir sesgos e imprecisiones en sus estimaciones de edad.

Las implicaciones de la verificación de edad inexacta se extienden más allá de la plataforma Roblox. A medida que los sistemas de verificación de edad impulsados por IA se vuelven más frecuentes en Internet, crecen las preocupaciones sobre la privacidad, el sesgo y el potencial de uso indebido. La tecnología plantea interrogantes sobre el equilibrio entre la seguridad en línea y los derechos individuales.

El estado actual del sistema de verificación de edad de Roblox sigue siendo incierto. La compañía aún no ha anunciado ningún plan para revertir la actualización, pero es probable que enfrente una presión cada vez mayor por parte de los usuarios, desarrolladores y expertos para abordar los problemas. Los próximos desarrollos probablemente involucrarán a Roblox evaluando el rendimiento del sistema, abordando las imprecisiones y explorando enfoques alternativos para la seguridad en línea.