قامت شركة الذكاء الاصطناعي التابعة لإيلون ماسك، X.AI، بتقييد الوصول إلى ميزة إنشاء الصور في Grok للمشتركين المدفوعين على منصة X، وذلك في أعقاب انتقادات واسعة النطاق للسماح للمستخدمين بإنشاء صور جنسية وعارية لنساء وأطفال. التغيير، الذي أُعلن عنه يوم الجمعة في ردود على المستخدمين، يحد من قدرات إنشاء الصور وتحريرها للمشتركين المدفوعين فقط. ومع ذلك، في وقت النشر، لم تمتد هذه القيود إلى تطبيق Grok، الذي استمر في السماح لجميع المستخدمين بإنشاء صور دون اشتراك.
ميزة إنشاء الصور، التي كانت متاحة في البداية لجميع المستخدمين مع حدود يومية، مكّنت من تحميل الصور لتحريرها أو إنشاء نسخ جنسية أو عارية منها. أدت هذه القدرة إلى طفرة في الصور الجنسية غير التوافقية للأطفال والممثلين والعارضين والشخصيات العامة، مما أثار غضبًا دوليًا. أدانت X وماسك علنًا إساءة استخدام الأداة، مشيرين إلى أن الشركة ستلتزم بسياساتها ضد المحتوى غير القانوني على منصة التواصل الاجتماعي. وذكرت الشركة: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني".
تسلط هذه القضية الضوء على التحديات التي يواجهها مطورو الذكاء الاصطناعي في منع إساءة استخدام تقنية إنشاء الصور. افتقر التنفيذ الأولي لـ Grok إلى ضمانات كافية لمنع إنشاء محتوى ضار واستغلالي. يؤكد هذا الحادث على الحاجة إلى إشراف قوي على المحتوى وإرشادات أخلاقية في تطوير ونشر الأدوات التي تعمل بالذكاء الاصطناعي. يشير قرار الشركة بتقييد الوصول إلى المشتركين المدفوعين إلى محاولة للتخفيف من المشكلة عن طريق الحد من قاعدة المستخدمين وربما زيادة المساءلة.
تعكس خطوة تقييد ميزة إنشاء الصور في Grok للمشتركين المدفوعين اتجاهًا متزايدًا بين منصات الذكاء الاصطناعي لتطبيق ضوابط أكثر صرامة على إنشاء المحتوى. واجهت مولدات صور الذكاء الاصطناعي الأخرى، مثل DALL-E 2 و Midjourney، تحديات مماثلة وقامت بتنفيذ تدابير مختلفة لمنع إنشاء محتوى ضار أو غير لائق، بما في ذلك مرشحات المحتوى وإرشادات الاستخدام.
لا يزال التأثير طويل المدى لهذا القرار على اعتماد Grok واستخدامه غير واضح. في حين أن تقييد الوصول قد يقلل من احتمالية إساءة الاستخدام، إلا أنه قد يحد أيضًا من جاذبية الأداة لجمهور أوسع. لم تعلن الشركة بعد عن أي خطط لتنفيذ ضمانات إضافية أو تدابير للإشراف على المحتوى لتطبيق Grok، الذي لا يزال يسمح بإنشاء صور غير مقيد. لا يزال الوضع متقلبًا حيث تتنقل X.AI في التحديات الأخلاقية والتكنولوجية المعقدة لإنشاء صور الذكاء الاصطناعي.
Discussion
Join the conversation
Be the first to comment