يواجه نظام التحقق من العمر المدعوم بالذكاء الاصطناعي الذي أطلقته Roblox مؤخرًا انتقادات كبيرة بعد أيام فقط من طرحه على نطاق أوسع. أثار نظام مسح الوجه، المصمم لتقدير أعمار المستخدمين قبل منحهم حق الوصول إلى وظائف الدردشة، جدلاً بين اللاعبين والمطورين، وأثار مخاوف بين الخبراء بشأن فعاليته وتأثيره المجتمعي المحتمل.

يهدف النظام، الذي تم إطلاقه مبدئيًا في مواقع محددة في ديسمبر قبل التوسع إلى الولايات المتحدة ودول أخرى الأسبوع الماضي، إلى إنشاء بيئات دردشة أكثر أمانًا عن طريق تقييد التفاعلات على المستخدمين من نفس الأعمار. صرحت Roblox أن الهدف من النظام هو السماح للمستخدمين بالدردشة بأمان مع مستخدمين من نفس الأعمار. ومع ذلك، يبلغ اللاعبون عن مشكلات في سوء التعريف، مما يؤدي إلى قيود على التواصل مع الأصدقاء. كما يدعو المطورون إلى التراجع عن التحديث، مشيرين إلى تعطيل مجتمعاتهم.

يكمن جوهر المشكلة في دقة تقدير الذكاء الاصطناعي للعمر. تعتمد تقنية التعرف على الوجه، على الرغم من تقدمها السريع، على خوارزميات مدربة على مجموعات بيانات ضخمة من الصور. تحلل هذه الخوارزميات ملامح الوجه للتنبؤ بالعمر، ولكن يمكن أن تتأثر بعوامل مثل الإضاءة وجودة الصورة والاختلافات الفردية في المظهر. عندما يسيء الذكاء الاصطناعي تحديد عمر المستخدم، يمكن أن يؤدي ذلك إلى عواقب غير مقصودة، مثل منع المستخدمين الأصغر سنًا من الوصول إلى المحتوى المناسب لأعمارهم أو، على العكس من ذلك، السماح للمستخدمين الأكبر سنًا بالوصول إلى المساحات المخصصة للجمهور الأصغر سنًا.

يشكك الخبراء أيضًا في قدرة النظام على معالجة المشكلة الأساسية للمتحرشين عبر الإنترنت. ذكرت WIRED أنها عثرت على قوائم على eBay تعلن عن حسابات تم التحقق من العمر لقصّر لا تتجاوز أعمارهم 9 سنوات، وبأسعار منخفضة تصل إلى 4 دولارات. تسلط هذه القوائم الضوء على ثغرة محتملة في النظام، حيث يمكن للجهات الخبيثة التحايل على قيود العمر عن طريق شراء حسابات تم التحقق منها. صرحت مادي مارتينيز، المتحدثة باسم eBay، أن الشركة كانت تزيل القوائم لانتهاكها سياسات الموقع بعد أن أبلغت WIRED عنها.

يثير هذا أسئلة أوسع حول أخلاقيات وفعالية استخدام الذكاء الاصطناعي للتحقق من العمر. في حين أن التكنولوجيا تقدم حلاً محتملاً لمخاوف السلامة عبر الإنترنت، إلا أنها لا تخلو من القيود. إن خطر سوء التعريف، وإمكانية التحايل، وعدم الشفافية في كيفية عمل هذه الخوارزميات كلها تشكل تحديات. علاوة على ذلك، يثير استخدام تقنية مسح الوجه مخاوف تتعلق بالخصوصية، لا سيما فيما يتعلق بتخزين واستخدام البيانات البيومترية.

تخضع الحالة الحالية للنظام للمراجعة من قبل Roblox، حيث تواجه الشركة ضغوطًا متزايدة من قاعدة مستخدميها والمجتمع الأوسع. من المحتمل أن تتضمن التطورات التالية تعديلات على خوارزميات الذكاء الاصطناعي، وآليات محسنة لتعليقات المستخدمين، وربما إعادة تقييم للنهج العام للتحقق من العمر. يعد الحادث بمثابة تذكير بالتعقيدات التي ينطوي عليها نشر الحلول المدعومة بالذكاء الاصطناعي وأهمية النظر في كل من الفوائد المحتملة والمخاطر المحتملة.