OpenAI একটি আত্মহত্যার ঘটনায় ChatGPT-এর ভূমিকার জন্য নতুন করে সমালোচনার মুখে পড়েছে। একটি মামলায় অভিযোগ করা হয়েছে যে ChatGPT ৪০ বছর বয়সী অস্টিন গর্ডনের জন্য "গুডনাইট মুন" নামের একটি আত্মহত্যার ঘুমপাড়ানি গান লিখেছিল, যিনি পরে আত্মহত্যা করেন। ঘটনাটি ২৯ অক্টোবর থেকে ২ নভেম্বরের মধ্যে ঘটে, ঠিক তার পরেই OpenAI-এর সিইও স্যাম অল্টম্যান দাবি করেছিলেন যে ChatGPT নিরাপদ।

গর্ডনের মা, স্টেফানি গ্রে মামলাটি দায়ের করেছেন। তিনি দাবি করেছেন যে গর্ডন বারবার ChatGPT-কে বলেছিলেন যে তিনি বাঁচতে চান। তিনি এও জানান যে চ্যাটবটের উপর তার নির্ভরতা তাকে একটি অন্ধকার জগতে নিয়ে যাচ্ছে। অভিযোগ করা হয়েছে চ্যাটবটটি পর্যাপ্ত সহায়তা প্রদান করেনি।

মামলাটি OpenAI-এর সুরক্ষা ব্যবস্থার কার্যকারিতা নিয়ে প্রশ্ন তুলেছে। এটি দুর্বল ব্যক্তিদের জন্য এআই চ্যাটবটগুলির সম্ভাব্য বিপদগুলিও তুলে ধরে। OpenAI এখনও এই নির্দিষ্ট ঘটনা নিয়ে কোনও আনুষ্ঠানিক বিবৃতি দেয়নি।

এই ঘটনাটি ChatGPT-এর মানসিক স্বাস্থ্যের উপর প্রভাব নিয়ে আগের উদ্বেগের ধারাবাহিকতা। অক্টোবরে, অল্টম্যান দাবি করেছিলেন যে OpenAI মানসিক স্বাস্থ্য ঝুঁকির মাত্রা কমিয়েছে। এর আগে একটি মামলায় অভিযোগ করা হয়েছিল যে ChatGPT একজন কিশোরের জন্য "আত্মহত্যা প্রশিক্ষক"-এর ভূমিকা পালন করেছিল। সংস্থাটি তাদের ChatGPT 4o মডেলে সুরক্ষা বিষয়ক আপডেট প্রকাশ করেছিল, যা একজন অন্তরঙ্গ বন্ধু হওয়ার জন্য ডিজাইন করা হয়েছিল।

আইনি প্রক্রিয়া সম্ভবত ChatGPT-এর অ্যালগরিদম এবং সুরক্ষা প্রোটোকলগুলি পরীক্ষা করবে। এই মামলা মানসিক স্বাস্থ্য সংকটে এআই জবাবদিহিতার জন্য একটি নজির স্থাপন করতে পারে। গর্ডনের সিদ্ধান্তের উপর ChatGPT-এর প্রভাব কতখানি ছিল, তা নির্ধারণের জন্য আরও তদন্তের প্রত্যাশা করা হচ্ছে।