قامت شركة الذكاء الاصطناعي التابعة لإيلون ماسك، X. Corp، بتقييد الوصول إلى ميزة توليد الصور بالذكاء الاصطناعي في Grok على المشتركين المدفوعين على منصة X، وذلك في أعقاب انتقادات واسعة النطاق حول إساءة استخدام الأداة. التقييد، الذي أُعلن عنه يوم الجمعة في ردود على المستخدمين، يحد من قدرات توليد الصور وتحريرها على المشتركين المدفوعين فقط، وهي خطوة مدفوعة بمخاوف بشأن إنشاء صور جنسية وعارية، بما في ذلك تلك التي تصور النساء والأطفال.

سمح الإطلاق الأولي لميزة توليد الصور في Grok للمستخدمين، حتى أولئك الذين ليس لديهم اشتراك، بتحميل الصور وطلب تعديلات عليها، بما في ذلك إنشاء نسخ جنسية أو عارية. أدت هذه الإمكانية إلى طفرة في الصور غير التوافقية التي تصور الأطفال والممثلين والعارضين والشخصيات العامة، مما أثار إدانة دولية. على الرغم من القيود المفروضة على X، استمر تطبيق Grok، وقت النشر، في السماح لجميع المستخدمين بإنشاء صور دون الحاجة إلى اشتراك مدفوع.

أدانت X وإيلون ماسك علنًا إساءة استخدام الأداة، مؤكدين أن الشركة ستفرض سياساتها ضد المحتوى غير القانوني. صرحت الشركة: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني"، مؤكدة التزامها بسياسات الإشراف على المحتوى.

يعكس قرار تقييد الوصول على المشتركين المدفوعين قلقًا متزايدًا داخل صناعة الذكاء الاصطناعي بشأن احتمال إساءة استخدام تقنيات الذكاء الاصطناعي التوليدية. حذر الخبراء من الآثار الأخلاقية لتوليد الصور بالذكاء الاصطناعي، ولا سيما خطر إنشاء التزييف العميق والمحتوى الفاضح غير التوافقي. يسلط الحادث الضوء على التحديات التي تواجهها الشركات في الموازنة بين الابتكار والتطوير والنشر المسؤول للذكاء الاصطناعي.

من المتوقع أن يؤثر تحرك X للحد من الوصول إلى ميزة توليد الصور في Grok على قاعدة المستخدمين وربما يغير تركيز تطوير الأداة. يبقى أن نرى ما إذا كانت الشركة ستنفذ ضمانات أكثر صرامة لمنع إساءة الاستخدام، حتى بين المشتركين المدفوعين. يظل مستقبل قدرات توليد الصور في Grok وتوافرها على التطبيق المستقل غير مؤكد حيث تتنقل الشركة في التعقيدات الأخلاقية والقانونية للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.