أفادت مؤسسة "مراقبة الإنترنت" (IWF)، وهي مؤسسة خيرية مقرها المملكة المتحدة وتركز على تحديد وإزالة صور الاعتداء الجنسي على الأطفال عبر الإنترنت، بأنها عثرت على صور "يبدو أنها" تم إنشاؤها بواسطة "جروك"، نموذج الذكاء الاصطناعي الذي طورته شركة xAI التابعة لإيلون ماسك. صنفت مؤسسة "مراقبة الإنترنت" الصور على أنها قد تحتوي على مواد إباحية للأطفال (CSAM) وأبلغت السلطات المختصة بها.

يثير هذا الاكتشاف مخاوف كبيرة بشأن إمكانية استغلال نماذج الذكاء الاصطناعي لأغراض خبيثة، وتحديداً إنشاء مواد إباحية للأطفال. لطالما حذر خبراء في مجال سلامة الذكاء الاصطناعي من المخاطر المرتبطة بنماذج الذكاء الاصطناعي التوليدية المتطورة بشكل متزايد، بما في ذلك احتمال إساءة استخدامها لإنشاء محتوى ضار.

لم تصدر شركة xAI بعد بيانًا رسميًا بشأن نتائج مؤسسة "مراقبة الإنترنت". ومع ذلك، فقد صرحت الشركة سابقًا بالتزامها بتطوير الذكاء الاصطناعي بمسؤولية وتخفيف المخاطر المحتملة. "جروك"، المتاح حاليًا لمشتركي خدمة Premium+ في X (تويتر سابقًا)، هو نموذج لغوي كبير مصمم لإنشاء نصوص وترجمة اللغات وكتابة أنواع مختلفة من المحتوى الإبداعي والإجابة على الأسئلة بطريقة إعلامية. يتميز عن نماذج الذكاء الاصطناعي الأخرى بنيته المعلنة للإجابة على "الأسئلة الحساسة" التي قد تتجنبها أنظمة الذكاء الاصطناعي الأخرى.

تتضمن عملية مؤسسة "مراقبة الإنترنت" استخدام مجموعة من الأدوات الآلية والمحللين البشريين لتحديد وتصنيف المحتوى غير القانوني المحتمل عبر الإنترنت. بمجرد تحديد المحتوى، تقوم مؤسسة "مراقبة الإنترنت" بإبلاغ مزودي خدمة الإنترنت (ISPs) والمنظمات الأخرى ذات الصلة، والذين بدورهم مسؤولون عن إزالة المحتوى من منصاتهم. تعمل مؤسسة "مراقبة الإنترنت" أيضًا مع وكالات إنفاذ القانون للتحقيق مع الأفراد المتورطين في إنتاج وتوزيع مواد إباحية للأطفال ومقاضاتهم.

يسلط الحادث الضوء على التحديات التي تنطوي عليها منع إساءة استخدام تكنولوجيا الذكاء الاصطناعي. يتم تدريب نماذج الذكاء الاصطناعي التوليدية، مثل "جروك"، على كميات هائلة من البيانات، وقد يكون من الصعب منعها من تعلم إنشاء محتوى ضار. علاوة على ذلك، فإن الوتيرة السريعة لتطوير الذكاء الاصطناعي تجعل من الصعب على المنظمين وصناع السياسات مواكبة المخاطر المتطورة.

وقالت إميلي كارتر، الباحثة في معهد سلامة الذكاء الاصطناعي، وهي منظمة غير ربحية مكرسة لتعزيز التطوير الآمن والمسؤول للذكاء الاصطناعي: "هذا بمثابة دعوة للاستيقاظ لصناعة الذكاء الاصطناعي بأكملها". "نحن بحاجة إلى استثمار المزيد من الموارد في تطوير ضمانات قوية لمنع استخدام نماذج الذكاء الاصطناعي لإنشاء مواد إباحية للأطفال وأشكال أخرى من المحتوى الضار."

الوضع الحالي للتحقيق غير واضح. من المحتمل أن تقوم وكالات إنفاذ القانون بالتحقيق في أصل الصور ومدى استخدام "جروك" لإنشائها. من المرجح أن يؤدي الحادث إلى مزيد من التدقيق في بروتوكولات سلامة الذكاء الاصطناعي وقد يؤدي إلى لوائح جديدة تحكم تطوير ونشر نماذج الذكاء الاصطناعي التوليدية. ستواصل مؤسسة "مراقبة الإنترنت" مراقبة الوضع والعمل مع المنظمات ذات الصلة لإزالة أي مواد إباحية للأطفال يتم تحديدها من الإنترنت.