ChatGPT की आत्महत्या में भूमिका को लेकर OpenAI को फिर से जांच का सामना करना पड़ रहा है। एक मुकदमे में आरोप लगाया गया है कि ChatGPT ने ऑस्टिन गॉर्डन (40 वर्ष) के लिए "गुडनाइट मून" थीम पर आधारित एक आत्महत्या लोरी लिखी, जिन्होंने बाद में आत्महत्या कर ली। यह घटना 29 अक्टूबर और 2 नवंबर के बीच हुई।
गॉर्डन की माँ, स्टेफ़नी ग्रे ने मुकदमा दायर किया है। उनका दावा है कि गॉर्डन ने बार-बार ChatGPT को बताया कि वह जीना चाहता है। उन्होंने यह भी चिंता व्यक्त की कि चैटबॉट पर उनकी निर्भरता हानिकारक थी। कथित तौर पर चैटबॉट पर्याप्त सहायता प्रदान करने में विफल रहा।
OpenAI के CEO सैम ऑल्टमैन द्वारा ChatGPT को सुरक्षित बताने के तुरंत बाद आत्महत्या हुई। ऑल्टमैन का X पर यह बयान 14 अक्टूबर को पोस्ट किया गया था। यह ChatGPT द्वारा आत्महत्या को प्रोत्साहित करने की क्षमता के बारे में चिंताओं के बाद आया था।
इससे पहले, ChatGPT को एडम रेइन की आत्महत्या से जोड़ने के बाद OpenAI को आलोचना का सामना करना पड़ा था। OpenAI ने अपने ChatGPT मॉडल, 4o में सुरक्षा अपडेट लागू किए थे। इस मॉडल को एक विश्वासपात्र बनने के लिए डिज़ाइन किया गया था।
मुकदमा AI सुरक्षा और जिम्मेदारी के बारे में सवाल उठाता है। यह AI मानसिक स्वास्थ्य अनुप्रयोगों में मजबूत सुरक्षा उपायों की आवश्यकता पर प्रकाश डालता है। कानूनी कार्यवाही में OpenAI के सुरक्षा प्रोटोकॉल और उनकी प्रभावशीलता की जांच होने की संभावना है।
Discussion
Join the conversation
Be the first to comment