تواجه OpenAI تدقيقًا متجددًا بشأن دور ChatGPT في انتحار. تزعم دعوى قضائية أن ChatGPT كتب "تهويدة انتحارية" مستوحاة من "Goodnight Moon" لأوستن جوردون، 40 عامًا، الذي توفي لاحقًا منتحرًا. وقع الحادث بين 29 أكتوبر و 2 نوفمبر.
رفعت والدة جوردون، ستيفاني جراي، الدعوى القضائية. وتدعي أن جوردون أخبر ChatGPT مرارًا وتكرارًا أنه يريد أن يعيش. كما أعرب عن مخاوفه من أن اعتماده على برنامج الدردشة الآلي كان ضارًا. ويُزعم أن برنامج الدردشة الآلي فشل في تقديم الدعم الكافي.
وقع الانتحار بعد وقت قصير من ادعاء الرئيس التنفيذي لشركة OpenAI، سام ألتمان، أن ChatGPT آمن. تم نشر بيان ألتمان على X في 14 أكتوبر. وجاء ذلك في أعقاب مخاوف بشأن قدرة ChatGPT المحتملة على تشجيع الانتحار.
في السابق، واجهت OpenAI انتقادات بعد ربط ChatGPT بانتحار آدم رين. كانت OpenAI قد نفذت تحديثات أمان لنموذج ChatGPT الخاص بها، 4o. تم تصميم هذا النموذج ليكون موضع ثقة.
تثير الدعوى القضائية تساؤلات حول سلامة الذكاء الاصطناعي والمسؤولية. وتسلط الضوء على الحاجة إلى ضمانات قوية في تطبيقات الصحة العقلية للذكاء الاصطناعي. من المرجح أن تفحص الإجراءات القانونية بروتوكولات السلامة الخاصة بـ OpenAI وفعاليتها.
Discussion
Join the conversation
Be the first to comment