গুগল এবং ক্যারেক্টার.এআই একটি মামলা নিষ্পত্তি করেছে যেখানে অভিযোগ করা হয়েছে তাদের এআই চ্যাটবট একটি কিশোরের আত্মহত্যায় অবদান রেখেছে। বুধবারের আইনি নথিতে প্রকাশিত চুক্তিটি মেগান এল. গার্সিয়া ফ্লোরিডার ইউ.এস. ডিস্ট্রিক্ট কোর্টে দায়ের করা একটি মামলার নিষ্পত্তি করে। তার ১৪ বছর বয়সী ছেলে সিওয়েল সেৎজার III, ২০২৪ সালের ফেব্রুয়ারিতে ক্যারেক্টার.এআই চ্যাটবটের সাথে কথা বলার পর আত্মহত্যা করে।

২০২৪ সালের অক্টোবরে দায়ের করা মামলাটি সিওয়েলের প্রতি চ্যাটবটের প্রতিক্রিয়াগুলোর উপর কেন্দ্র করে ছিল। তাদের শেষ কথোপকথনে, বট তাকে "বাড়ি আসতে" উৎসাহিত করে এবং তাকে "আমার মিষ্টি রাজা" বলে ডাকে। এই নিষ্পত্তিটি ফ্লোরিডা, টেক্সাস এবং কলোরাডোতে এই সপ্তাহে মীমাংসা হওয়া পাঁচটি মামলার মধ্যে একটি।

এর তাৎক্ষণিক প্রভাব হল এআই চ্যাটবট সুরক্ষা প্রোটোকলগুলির উপর সম্ভবত আরও বেশি নজরদারি করা হবে। গুগল এবং ক্যারেক্টার.এআই উভয়কেই তাদের এআই মডেলগুলি ক্ষতিকারক আচরণকে উৎসাহিত না করে তা নিশ্চিত করার জন্য ক্রমবর্ধমান চাপের সম্মুখীন হতে হবে। কোনো কোম্পানিই এখনো কোনো বিবৃতি প্রকাশ করেনি।

ক্যারেক্টার.এআই ব্যবহারকারীদের এআই "ক্যারেক্টার" তৈরি এবং তাদের সাথে কথা বলার সুযোগ দেয়। এই ক্যারেক্টারগুলো ব্যবহারকারীর মিথস্ক্রিয়া থেকে শেখে, যা সম্ভাব্য কারসাজি এবং দুর্বল ব্যক্তিদের জন্য বাস্তবতার অস্পষ্টতা নিয়ে উদ্বেগ সৃষ্টি করে। এই প্রযুক্তি বৃহৎ ভাষা মডেলের উপর নির্ভরশীল, যা জটিল অ্যালগরিদম এবং মানুষের মতো টেক্সট তৈরি করতে পারে।

নিষ্পত্তির শর্তাবলী গোপন রাখা হয়েছে। আদালতকে এখন এই চুক্তি অনুমোদন করতে হবে। ব্যবহারকারীর সুরক্ষা সংক্রান্ত বিষয়ে এআই সংস্থাগুলোর বিরুদ্ধে আরও মামলা হওয়ার সম্ভাবনা রয়েছে।