أمرت وزارة تكنولوجيا المعلومات الهندية شركة X المملوكة لإيلون ماسك بتنفيذ تغييرات فنية وإجرائية فورية على برنامج الدردشة الآلي الخاص بها Grok بعد أن أنتجت الأداة محتوى فاحشًا، بما في ذلك صور معدلة بالذكاء الاصطناعي لنساء. ويأمر القرار، الصادر يوم الجمعة، شركة X بتقييد Grok من إنشاء محتوى يتضمن عريًا أو إيحاءات جنسية أو مواد إباحية أو أي محتوى آخر غير قانوني.
منحت الوزارة شركة X مهلة 72 ساعة لتقديم تقرير بالإجراءات المتخذة يوضح بالتفصيل الخطوات المتخذة لمنع استضافة أو نشر محتوى يعتبر فاحشًا أو إباحيًا أو مبتذلًا أو غير لائق أو جنسيًا صريحًا أو متعلقًا بالأطفال أو محظورًا بموجب القانون الهندي. راجعت TechCrunch الأمر، الذي حذر من أن عدم الامتثال قد يعرض للخطر حماية الملاذ الآمن لشركة X، والحصانة القانونية من المسؤولية عن المحتوى الذي ينشئه المستخدمون بموجب القانون الهندي.
يأتي هذا الإجراء في أعقاب مخاوف أثارها المستخدمون الذين شاركوا أمثلة على مطالبة Grok بتعديل صور لأفراد، وخاصة النساء، لجعلهم يظهرون وكأنهم يرتدون البيكيني. قدمت البرلمانية الهندية بريانكا تشاتورفيدي شكوى رسمية بعد ظهور هذه الحالات.
تم تصميم Grok، برنامج الدردشة الآلي الخاص بشركة X، للإجابة على الأسئلة وإنشاء نصوص بأسلوب محادثة. وهو مبني على نموذج لغوي كبير (LLM)، وهو نوع من الذكاء الاصطناعي الذي يستخدم تقنيات التعلم العميق لفهم وإنشاء نصوص شبيهة بالنصوص البشرية. يتم تدريب نماذج LLM على مجموعات بيانات ضخمة من النصوص والأكواد، مما يمكنها من أداء مجموعة متنوعة من المهام، بما في ذلك ترجمة اللغات وتلخيص النصوص وإنشاء المحتوى. ومع ذلك، يمكن أن تكون نماذج LLM عرضة أيضًا لإنشاء محتوى متحيز أو مسيء أو ضار إذا لم يتم التحكم فيها ومراقبتها بشكل صحيح.
تسلط توجيهات الحكومة الهندية الضوء على المخاوف المتزايدة المحيطة بالتطوير والنشر المسؤولين لتقنيات الذكاء الاصطناعي. مع ازدياد تطور نماذج الذكاء الاصطناعي، يصبح ضمان توافقها مع القيم المجتمعية والأطر القانونية أمرًا بالغ الأهمية. يؤكد أمر وزارة تكنولوجيا المعلومات على أهمية تنفيذ الضمانات لمنع إساءة استخدام الذكاء الاصطناعي لإنشاء محتوى ضار أو غير قانوني.
لم تعلق شركة X علنًا بعد على الأمر. ستتم مراقبة رد الشركة والإجراءات التي تتخذها لمعالجة المخاوف التي أثارتها الحكومة الهندية عن كثب من قبل صناعة التكنولوجيا والجهات التنظيمية في جميع أنحاء العالم. يمكن أن تحدد النتيجة سابقة لكيفية تنظيم منصات الذكاء الاصطناعي ومساءلتها عن المحتوى الذي تنشئه أنظمتها. تتضمن الخطوات التالية تقديم X لتقرير الإجراءات المتخذة خلال الإطار الزمني المحدد، وبعد ذلك ستقوم وزارة تكنولوجيا المعلومات بتقييم فعالية التدابير المنفذة.
Discussion
Join the conversation
Be the first to comment