رفعت آشلي سانت كلير، وهي مؤثرة محافظة ووالدة أحد أبناء إيلون ماسك، دعوى قضائية ضد شركة الذكاء الاصطناعي التابعة لماسك، xAI، يوم الخميس في نيويورك، مدعية أن أداة Grok AI التابعة لها أنشأت صورًا إباحية عميقة مزيفة ذات طابع جنسي لها. تزعم الدعوى القضائية أن برنامج الدردشة الآلي Grok أنشأ صورًا تم إنشاؤها أو تعديلها بواسطة الذكاء الاصطناعي لسانت كلير، بما في ذلك بعض الصور التي تظهر فيها صلبان معقوفة، بعد أن قام المستخدمون على منصة التواصل الاجتماعي X بتحفيز الذكاء الاصطناعي بصورها، وفقًا لوثائق المحكمة.

تدعي سانت كلير أنه بعد أن طلبت من xAI التوقف عن إنشاء مثل هذه الصور، تم إنتاج "محتوى عميق مزيف مسيء جنسيًا وحميميًا ومهين لا يحصى" لها وتوزيعه علنًا بواسطة Grok، وفقًا لموقع Ars Technica. تضمنت إحدى الحالات المذكورة في الدعوى القضائية تعديل صورة لسانت كلير عندما كانت تبلغ من العمر 14 عامًا.

ردت xAI، الشركة الأم لكل من X و Grok، برفع دعوى قضائية مضادة ضد سانت كلير لانتهاكها شروط الخدمة الخاصة بها. تجادل الشركة بأن سانت كلير انتهكت شروط الخدمة من خلال رفع الدعوى القضائية في نيويورك، مدعية أنه يجب تسوية النزاعات في تكساس.

صرح محامي سانت كلير، "نعتزم محاسبة Grok والمساعدة في وضع حدود قانونية واضحة لصالح الجمهور بأكمله لمنع استخدام الذكاء الاصطناعي كسلاح للإساءة"، وفقًا لـ BBC.

تسلط المعركة القانونية الضوء على المخاوف المتزايدة بشأن إمكانية إساءة استخدام الذكاء الاصطناعي في إنشاء صور غير توافقية وتثير تساؤلات حول الحدود القانونية المحيطة بهذا الاستخدام. لم ترد X بشكل مباشر على استفسارات بي بي سي نيوز حول الدعاوى القضائية. القضية جارية، وتتضمن الخطوات التالية إجراءات قانونية في كل من نيويورك وتكساس.