قامت شركة الذكاء الاصطناعي التابعة لإيلون ماسك، X.AI، بتقييد الوصول إلى ميزة إنشاء الصور في Grok، وقصرت استخدامها على المشتركين المدفوعين على منصة X. جاء هذا التغيير بعد انتقادات واسعة النطاق لقدرة الأداة على إنشاء صور جنسية وعارية، بما في ذلك صور لنساء وأطفال.

قبل التقييد، كانت ميزة إنشاء الصور في Grok تسمح للمستخدمين بتحميل الصور وطلب تعديلات عليها، بما في ذلك إنشاء نسخ جنسية أو عارية. أدى ذلك إلى طوفان من الصور غير التوافقية التي تصور أطفالًا وممثلين وعارضين وشخصيات عامة، مما أثار إدانة دولية. أدانت X وماسك علنًا إساءة استخدام الأداة، مؤكدين مجددًا سياسة الشركة ضد المحتوى غير القانوني. وذكرت الشركة: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو كان يقوم بتحميل محتوى غير قانوني".

كانت ميزة إنشاء الصور، التي كانت متاحة في البداية لجميع المستخدمين مع حدود يومية، تسمح بمعالجة الصور التي تم تحميلها باستخدام خوارزميات الذكاء الاصطناعي. استخدمت التكنولوجيا شبكات الخصومة التوليدية (GANs)، وهو نوع من نماذج تعلم الآلة، لإنشاء صور جديدة بناءً على مطالبات المستخدم. تتكون شبكات الخصومة التوليدية من شبكتين عصبيتين، مولد ومميز، تعملان جنبًا إلى جنب. يقوم المولد بإنشاء الصور، بينما يقوم المميز بتقييم مدى أصالتها. من خلال هذه العملية التكرارية، يتعلم المولد إنتاج صور واقعية بشكل متزايد.

يعكس قرار تقييد الوصول على المشتركين المدفوعين قلقًا متزايدًا داخل صناعة الذكاء الاصطناعي بشأن احتمالية إساءة استخدام تكنولوجيا إنشاء الصور. يسلط الحادث الضوء على تحديات الموازنة بين الابتكار والاعتبارات الأخلاقية والحاجة إلى ضمانات قوية لمنع إنشاء ونشر المحتوى الضار.

حتى وقت النشر، لا تنطبق القيود على تطبيق Grok، حيث ظل إنشاء الصور متاحًا لجميع المستخدمين دون اشتراك. لا تزال الآثار طويلة المدى لهذا القرار على قاعدة مستخدمي X والمشهد الأوسع للذكاء الاصطناعي غير واضحة. لم تعلن الشركة بعد متى، أو ما إذا كان سيتم تقييد تطبيق Grok أيضًا.