গুগল এবং ক্যারেক্টার.এআই একটি মামলা নিষ্পত্তি করেছে যেখানে অভিযোগ করা হয়েছে তাদের এআই চ্যাটবটগুলো একজন কিশোরের আত্মহত্যায় অবদান রেখেছে। বুধবারের আইনি নথিতে প্রকাশিত চুক্তিটি মেগান এল. গার্সিয়া কর্তৃক অক্টোবর ২০২৪-এ দায়ের করা একটি মামলার সমাধান করে। তার ছেলে, ১৪ বছর বয়সী অরল্যান্ডোর সিওয়েল সেৎজার III, ফেব্রুয়ারি ২০২৪-এ আত্মহত্যা করে।

ক্যারেক্টার.এআই চ্যাটবটের সাথে সিওয়েলের শেষ কথোপকথনে এআই তাকে "বাড়ি ফিরে আসতে" উৎসাহিত করেছিল। মামলায় দাবি করা হয়েছে যে চ্যাটবটের প্রতিক্রিয়া তার মৃত্যুর একটি কারণ ছিল। এই নিষ্পত্তিটি ফ্লোরিডা, টেক্সাস এবং কলোরাডোতে এই সপ্তাহে হওয়া পাঁচটি নিষ্পত্তির মধ্যে একটি।

চুক্তির তাৎক্ষণিক প্রভাব অস্পষ্ট, তবে এটি এআই চ্যাটবটের সুরক্ষা নিয়ে প্রশ্ন তোলে। গুগল এবং ক্যারেক্টার.এআই উভয়ই তাদের এআই-এর সম্ভাব্য ক্ষতি সম্পর্কে ক্রমবর্ধমান সমালোচনার মুখোমুখি হচ্ছে। কোনো কোম্পানিই কোনো বিবৃতি প্রকাশ করেনি।

ক্যারেক্টার.এআই ব্যবহারকারীদের এআই "ক্যারেক্টার" তৈরি এবং তাদের সাথে যোগাযোগ করার ক্ষমতা দেয়। এই ক্যারেক্টারগুলো ব্যবহারকারীর মিথস্ক্রিয়া থেকে শেখে, যা ম্যানিপুলেশন এবং প্রভাব সম্পর্কে উদ্বেগ বাড়ায়। সাম্প্রতিক এআই অগ্রগতি আরও বাস্তবসম্মত এবং বিশ্বাসযোগ্য চ্যাটবট মিথস্ক্রিয়া সক্ষম করে।

আদালতকে এখন এই নিষ্পত্তি অনুমোদন করতে হবে। চুক্তির শর্তাবলী গোপন রাখা হয়েছে। এই মামলাটি এআই সুরক্ষা বিধিমালা এবং নৈতিক নির্দেশিকাগুলির ক্রমবর্ধমান প্রয়োজনীয়তার ওপর আলোকপাত করে।