O sistema de verificação de idade com inteligência artificial lançado recentemente pela Roblox está enfrentando críticas significativas devido a imprecisões e sua potencial ineficácia em abordar preocupações com a segurança online. O sistema de escaneamento facial, projetado para estimar as idades dos usuários e restringir as funções de bate-papo a grupos de idade semelhantes, foi lançado nos EUA e em outros países na semana passada, após um lançamento inicial em locais selecionados em dezembro. A Roblox implementou o sistema com o objetivo declarado de criar ambientes de comunicação mais seguros para seus usuários.

No entanto, o sistema foi recebido com reação negativa de jogadores que relatam não conseguir conversar com amigos, e desenvolvedores estão pedindo um retrocesso da atualização. Especialistas levantaram preocupações de que a IA esteja classificando incorretamente as idades de jogadores jovens, às vezes identificando-os como adultos e vice-versa. Essa classificação incorreta prejudica o propósito pretendido do sistema e interrompe as interações sociais dentro da plataforma.

Uma crítica central é que o sistema de verificação de idade pode não combater efetivamente a questão de predadores usando o Roblox para aliciar crianças pequenas. Críticos argumentam que a tecnologia não aborda o problema subjacente de atores maliciosos se apresentando falsamente online.

Para complicar ainda mais a questão, a WIRED relatou ter encontrado anúncios no eBay vendendo contas com idade verificada para menores de até 9 anos de idade, com preços tão baixos quanto US$ 4. Esses anúncios demonstram uma potencial vulnerabilidade no sistema, onde indivíduos podem contornar o processo de verificação de idade e obter acesso a contas que representam falsamente a idade do usuário. Após o relatório da WIRED, o eBay removeu os anúncios, citando violações das políticas do site. Maddy Martinez, uma porta-voz do eBay, confirmou a remoção.

A IA usada no sistema de verificação de idade da Roblox depende da tecnologia de reconhecimento facial, que analisa características faciais para estimar a idade. Esse tipo de IA é treinado em grandes conjuntos de dados de imagens e rótulos de idade associados. No entanto, a precisão desses sistemas pode ser afetada por fatores como iluminação, qualidade da imagem e a diversidade dos dados de treinamento. Se os dados de treinamento não forem representativos de todos os grupos demográficos, a IA pode exibir vieses e imprecisões em suas estimativas de idade.

As implicações da verificação de idade imprecisa se estendem além da plataforma Roblox. À medida que os sistemas de verificação de idade com inteligência artificial se tornam mais prevalentes na internet, as preocupações com privacidade, viés e o potencial para uso indevido estão crescendo. A tecnologia levanta questões sobre o equilíbrio entre segurança online e direitos individuais.

O status atual do sistema de verificação de idade da Roblox permanece em fluxo. A empresa ainda não anunciou nenhum plano para reverter a atualização, mas provavelmente está enfrentando pressão crescente de usuários, desenvolvedores e especialistas para resolver os problemas. Os próximos desenvolvimentos provavelmente envolverão a Roblox avaliando o desempenho do sistema, corrigindo imprecisões e explorando abordagens alternativas para a segurança online.