يواجه نظام التحقق من العمر المدعوم بالذكاء الاصطناعي الذي أطلقته Roblox مؤخرًا انتقادات كبيرة بسبب عدم دقته واحتمال عدم فعاليته في معالجة مخاوف السلامة عبر الإنترنت. تم طرح نظام مسح الوجه، المصمم لتقدير أعمار المستخدمين وتقييد وظائف الدردشة على الفئات العمرية المماثلة، في الولايات المتحدة ودول أخرى الأسبوع الماضي، بعد إطلاقه الأولي في مواقع محددة في ديسمبر. نفذت Roblox النظام بهدف معلن هو إنشاء بيئات اتصال أكثر أمانًا لمستخدميها.
ومع ذلك، قوبل النظام برد فعل عنيف من اللاعبين الذين أفادوا بأنهم غير قادرين على الدردشة مع الأصدقاء، ويدعو المطورون إلى التراجع عن التحديث. أثار الخبراء مخاوف من أن الذكاء الاصطناعي يصنف أعمار اللاعبين الصغار بشكل خاطئ، وأحيانًا يحددهم كبالغين والعكس صحيح. هذا التصنيف الخاطئ يقوض الغرض المقصود من النظام ويعطل التفاعلات الاجتماعية داخل المنصة.
الانتقاد المركزي هو أن نظام التحقق من العمر قد لا يكافح بشكل فعال قضية المفترسين الذين يستخدمون Roblox لاستمالة الأطفال الصغار. يجادل النقاد بأن التكنولوجيا لا تعالج المشكلة الأساسية المتمثلة في قيام الجهات الخبيثة بتحريف هويتها عبر الإنترنت.
ومما يزيد الأمر تعقيدًا، ذكرت WIRED أنها عثرت على قوائم على eBay تعلن عن حسابات تم التحقق من العمر فيها لقاصرين لا تتجاوز أعمارهم 9 سنوات، بأسعار منخفضة تصل إلى 4 دولارات. توضح هذه القوائم وجود ثغرة محتملة في النظام، حيث يمكن للأفراد تجاوز عملية التحقق من العمر والوصول إلى الحسابات التي تحرف عمر المستخدم. بعد تقرير WIRED، أزالت eBay القوائم، مشيرة إلى انتهاكات لسياسات الموقع. أكدت مادي مارتينيز، المتحدثة باسم eBay، الإزالة.
يعتمد الذكاء الاصطناعي المستخدم في نظام التحقق من العمر في Roblox على تقنية التعرف على الوجه، والتي تحلل ملامح الوجه لتقدير العمر. يتم تدريب هذا النوع من الذكاء الاصطناعي على مجموعات بيانات كبيرة من الصور وملصقات العمر المرتبطة بها. ومع ذلك، يمكن أن تتأثر دقة هذه الأنظمة بعوامل مثل الإضاءة وجودة الصورة وتنوع بيانات التدريب. إذا كانت بيانات التدريب لا تمثل جميع التركيبة السكانية، فقد يُظهر الذكاء الاصطناعي تحيزات وأوجه قصور في تقديرات العمر.
تتجاوز آثار التحقق غير الدقيق من العمر منصة Roblox. مع تزايد انتشار أنظمة التحقق من العمر المدعومة بالذكاء الاصطناعي عبر الإنترنت، تتزايد المخاوف بشأن الخصوصية والتحيز واحتمال إساءة الاستخدام. تثير التكنولوجيا أسئلة حول التوازن بين السلامة عبر الإنترنت والحقوق الفردية.
لا يزال الوضع الحالي لنظام التحقق من العمر في Roblox متقلبًا. لم تعلن الشركة بعد عن أي خطط للتراجع عن التحديث، ولكن من المحتمل أنها تواجه ضغوطًا متزايدة من المستخدمين والمطورين والخبراء لمعالجة المشكلات. من المحتمل أن تتضمن التطورات التالية قيام Roblox بتقييم أداء النظام ومعالجة أوجه القصور واستكشاف مناهج بديلة للسلامة عبر الإنترنت.
Discussion
Join the conversation
Be the first to comment