أفادت مؤسسة "مراقبة الإنترنت" (IWF) بالعثور على صور جنسية لأطفال قالت إنها "تبدو أنها" أُنشئت بواسطة "جروك"، وهو روبوت دردشة للذكاء الاصطناعي طورته شركة xAI. وأصدرت مؤسسة "مراقبة الإنترنت"، وهي منظمة مقرها المملكة المتحدة وتكرس جهودها لتحديد وإزالة المواد التي تتضمن الاعتداء الجنسي على الأطفال (CSAM) عبر الإنترنت، هذا الإعلان يوم الأربعاء، مما أثار قلقًا فوريًا داخل مجتمعات السلامة المتعلقة بالذكاء الاصطناعي وحماية الأطفال.

ووفقًا لمؤسسة "مراقبة الإنترنت"، فقد تم إنشاء الصور استجابةً لمطالبات المستخدمين المقدمة إلى "جروك". وبينما لم تنشر المنظمة تفاصيل محددة حول طبيعة المطالبات أو الصور التي تم إنشاؤها، فقد أكدت أن المواد استوفت العتبة القانونية للمواد التي تتضمن الاعتداء الجنسي على الأطفال بموجب قانون المملكة المتحدة. وذكرت مؤسسة "مراقبة الإنترنت" أنها أبلغت شركة xAI ووكالات إنفاذ القانون ذات الصلة بالنتائج.

وقالت سوزي هارجريفز، الرئيسة التنفيذية لمؤسسة "مراقبة الإنترنت"، في بيان مُعد: "أولويتنا دائمًا هي سلامة الأطفال على الإنترنت". "إن التقدم السريع في تكنولوجيا الذكاء الاصطناعي يمثل تحديات جديدة في هذا المجال، ومن الأهمية بمكان أن يتخذ المطورون خطوات استباقية لمنع إنشاء ونشر المواد التي تتضمن الاعتداء الجنسي على الأطفال".

أقرت شركة xAI بتقرير مؤسسة "مراقبة الإنترنت" وذكرت أنها "تحقق بشكل عاجل" في الأمر. وأكدت الشركة التزامها بمنع إساءة استخدام "جروك" وقالت إنها تعمل على تنفيذ ضمانات إضافية لمنع إنشاء محتوى ضار. وقال متحدث باسم xAI: "نشعر بقلق عميق إزاء هذه التقارير ونتخذ إجراءات فورية لمعالجة هذه المشكلة".

تسلط الحادثة الضوء على المخاوف المتزايدة المحيطة باحتمال استغلال نماذج الذكاء الاصطناعي لأغراض خبيثة، بما في ذلك إنشاء المواد التي تتضمن الاعتداء الجنسي على الأطفال. يحذر الخبراء من أن التطور المتزايد لتكنولوجيا توليد الصور بالذكاء الاصطناعي يجعل من الصعب اكتشاف وإزالة هذا المحتوى. تثير قدرة الذكاء الاصطناعي على إنشاء صور واقعية وشخصية أسئلة أخلاقية وقانونية مهمة لصناعة التكنولوجيا.

وقالت الدكتورة جوانا برايسون، أستاذة الأخلاقيات والتكنولوجيا في كلية هيرتي في برلين: "هذا بمثابة دعوة للاستيقاظ لمجتمع الذكاء الاصطناعي بأكمله". "نحن بحاجة إلى تطوير آليات قوية للكشف عن ومنع إنشاء المواد التي تتضمن الاعتداء الجنسي على الأطفال بواسطة نماذج الذكاء الاصطناعي، ونحن بحاجة إلى محاسبة المطورين على إساءة استخدام تقنياتهم".

"جروك"، الذي تم إطلاقه في نوفمبر 2023، هو نموذج لغوي كبير (LLM) مصمم لإنشاء النصوص وترجمة اللغات والإجابة على الأسئلة بأسلوب محادثة. وهو متاح حاليًا للمشتركين في X Premium+، منصة التواصل الاجتماعي الخاصة بإيلون ماسك والتي كانت تُعرف سابقًا باسم Twitter. يميز "جروك" نفسه عن روبوتات الدردشة الأخرى التي تعمل بالذكاء الاصطناعي بقدرته المعلنة على الإجابة على "الأسئلة الحساسة" وتكامله مع منصة X، مما يسمح له بالوصول إلى المعلومات في الوقت الفعلي.

من المرجح أن تؤدي نتائج مؤسسة "مراقبة الإنترنت" إلى تكثيف التدقيق في بروتوكولات السلامة المتعلقة بالذكاء الاصطناعي وقد تؤدي إلى زيادة الضغط التنظيمي على مطوري الذكاء الاصطناعي. يدرس المشرعون في العديد من البلدان بالفعل تشريعات لمعالجة المخاطر المرتبطة بالذكاء الاصطناعي، بما في ذلك احتمال إساءة استخدامه في إنشاء ونشر المحتوى غير القانوني. على سبيل المثال، يتضمن قانون الذكاء الاصطناعي للاتحاد الأوروبي أحكامًا لتنظيم أنظمة الذكاء الاصطناعي عالية المخاطر، بما في ذلك تلك المستخدمة لإنشاء وسائط اصطناعية.

الوضع الحالي للتحقيق مستمر. لم تصدر شركة xAI بعد تفاصيل الضمانات المحددة التي تخطط لتنفيذها. تواصل مؤسسة "مراقبة الإنترنت" مراقبة المنصات عبر الإنترنت بحثًا عن المواد التي تتضمن الاعتداء الجنسي على الأطفال والتي تم إنشاؤها بواسطة الذكاء الاصطناعي وتعمل مع وكالات إنفاذ القانون لتحديد ومقاضاة المخالفين. الحادثة بمثابة تذكير صارخ بالحاجة المستمرة إلى اليقظة والتعاون في مكافحة الاعتداء الجنسي على الأطفال عبر الإنترنت.