أفادت مؤسسة "مراقبة الإنترنت" (IWF)، وهي مؤسسة خيرية مقرها المملكة المتحدة وتركز على تحديد وإزالة صور الاعتداء الجنسي على الأطفال عبر الإنترنت، بالعثور على صور "يبدو أنها" تم إنشاؤها بواسطة "جروك"، نموذج الذكاء الاصطناعي الذي طورته شركة xAI التابعة لإيلون ماسك. قامت مؤسسة "مراقبة الإنترنت" (IWF) بالإبلاغ عن الصور، مما أدى إلى تحقيق في قدرات توليد الصور بالذكاء الاصطناعي وإثارة مخاوف بشأن احتمال إساءة استخدام تكنولوجيا الذكاء الاصطناعي المتقدمة.

تؤكد نتائج مؤسسة "مراقبة الإنترنت" (IWF) التحدي المتزايد المتمثل في منع استغلال أنظمة الذكاء الاصطناعي لإنشاء محتوى ضار. تم تصميم "جروك" كذكاء اصطناعي للمحادثة مع التركيز على الفكاهة والنزعة المتمردة، وهو مبني على نموذج لغوي كبير (LLM) تم تدريبه على مجموعة بيانات ضخمة من النصوص والأكواد. تتعلم النماذج اللغوية الكبيرة (LLM) إنشاء محتوى جديد من خلال تحديد الأنماط والعلاقات داخل بيانات التدريب الخاصة بها. هذه العملية، على الرغم من قوتها، يمكن أن تؤدي عن غير قصد إلى إنشاء مخرجات تنتهك الحدود الأخلاقية أو القانونية إذا لم يتم حمايتها بشكل صحيح.

لم تصدر شركة xAI بعد بيانًا عامًا بشأن نتائج مؤسسة "مراقبة الإنترنت" (IWF). ومع ذلك، يسلط الحادث الضوء على أهمية آليات السلامة القوية واستراتيجيات الإشراف على المحتوى لنماذج الذكاء الاصطناعي القادرة على إنشاء الصور. تتضمن هذه الآليات عادةً مجموعة من التقنيات، بما في ذلك تصفية بيانات التدريب لإزالة المحتوى الضار، وتنفيذ ضمانات لمنع إنشاء أنواع معينة من الصور، وتوظيف مراجعين بشريين لمراقبة المخرجات وتحديد الانتهاكات المحتملة.

وقالت سوزي هارجريفز، الرئيسة التنفيذية لمؤسسة "مراقبة الإنترنت" (Internet Watch Foundation)، في بيان صدر للصحافة: "إن قدرة الذكاء الاصطناعي على إنشاء صور واقعية تمثل تحديًا كبيرًا للسلامة عبر الإنترنت". "من الأهمية بمكان أن يعطي مطورو الذكاء الاصطناعي الأولوية للسلامة وتنفيذ تدابير فعالة لمنع إنشاء ونشر مواد الاعتداء الجنسي على الأطفال."

يثير الحادث أيضًا أسئلة أوسع حول مسؤولية مطوري الذكاء الاصطناعي في التخفيف من المخاطر المرتبطة بتقنياتهم. مع ازدياد تطور نماذج الذكاء الاصطناعي وإمكانية الوصول إليها، يزداد احتمال إساءة استخدامها، مما يتطلب اتباع نهج استباقي وتعاوني يشمل المطورين وصناع السياسات ومنظمات المجتمع المدني.

يعد تطوير "جروك" جزءًا من اتجاه أوسع في صناعة الذكاء الاصطناعي نحو إنشاء نماذج ذكاء اصطناعي أكثر قوة وتنوعًا. يتوفر "جروك" حاليًا للمشتركين في X Premium+، وهي أعلى فئة في خدمة الاشتراك في X. تم تصميم النموذج للإجابة على الأسئلة بأسلوب محادثة ويهدف إلى تزويد المستخدمين بالمعلومات والمساعدة في مجموعة واسعة من الموضوعات.

من المرجح أن يؤدي تقرير مؤسسة "مراقبة الإنترنت" (IWF) إلى مزيد من التدقيق في تقنيات توليد الصور بالذكاء الاصطناعي وقد يؤدي إلى دعوات لفرض لوائح ومعايير صناعية أكثر صرامة. يعد الحادث بمثابة تذكير بالمخاطر المحتملة المرتبطة بالذكاء الاصطناعي وأهمية إعطاء الأولوية للسلامة والاعتبارات الأخلاقية في تطويره ونشره. التحقيق جار، ومن المتوقع ظهور مزيد من التفاصيل مع معالجة xAI وأصحاب المصلحة الآخرين لهذه القضية.