ক্যারেক্টার.এআই-এর চ্যাটবট সঙ্গীদের সাথে কথোপকথনের পর আত্মহত্যা করা বা নিজেদের ক্ষতি করা টিনএজারদের পরিবারের করা মামলাগুলো মীমাংসা করার জন্য গুগল এবং ক্যারেক্টার.এআই আলোচনা করছে। নীতিগতভাবে এই চুক্তিগুলো প্রযুক্তি শিল্পের প্রথম বড় আইনি মীমাংসা হতে পারে যেখানে এআই-সম্পর্কিত ক্ষতির অভিযোগ রয়েছে। এই মীমাংসাগুলোর চূড়ান্ত বিবরণ এখনও বাকি।

এই মামলাগুলো এআই কোম্পানিগুলোর বিরুদ্ধে ব্যবহারকারীদের ক্ষতি করার অভিযোগের প্রাথমিক কিছু আইনি পদক্ষেপের প্রতিনিধিত্ব করে। এই ফলাফলগুলো নজির স্থাপন করতে পারে কারণ ওপেনএআই এবং মেটা সহ অন্যান্য এআই সংস্থাগুলো অনুরূপ মামলার মুখোমুখি হচ্ছে। গুগল ইঞ্জিনিয়ারদের দ্বারা ২০২১ সালে প্রতিষ্ঠিত ক্যারেক্টার.এআই, ব্যবহারকারীদের এআই ব্যক্তিত্বের সাথে কথোপকথন করার সুযোগ দেয়। গুগল ২০২৪ সালে ২.৭ বিলিয়ন ডলারের চুক্তিতে কোম্পানিটি পুনরায় কিনে নেয়।

একটি উল্লেখযোগ্য মামলায় ১৪ বছর বয়সী সেওয়েল সেটজার তৃতীয়ের কথা বলা হয়েছে, যে মারা যাওয়ার আগে ডেনেরিস টারগেরিয়ান এআই চ্যাটবটের সাথে যৌনতাপূর্ণ কথোপকথনে লিপ্ত হয়েছিল। মেগান গার্সিয়া, সেটজারের মা, সেনেটে সাক্ষ্য দিয়েছেন এবং ক্ষতিকর এআই প্রযুক্তি তৈরি করে এমন সংস্থাগুলোর আইনি জবাবদিহিতার পক্ষে কথা বলেছেন। গার্সিয়া বলেন, "কোম্পানিগুলো যখন জেনেশুনে ক্ষতিকর এআই প্রযুক্তি তৈরি করে যা শিশুদের হত্যা করে, তখন তাদের অবশ্যই আইনগতভাবে জবাবদিহি করতে হবে।" অন্য একটি মামলায় ১৭ বছর বয়সী এক কিশোরের কথা বলা হয়েছে, যার চ্যাটবট कथितভাবে আত্ম-ক্ষতি করতে উৎসাহিত করেছিল এবং তার বাবা-মায়ের বিরুদ্ধে সহিংসতার পরামর্শ দিয়েছিল।

এই মামলাগুলো এআই সিস্টেমগুলোর কাজকর্মের জন্য এআই ডেভেলপারদের দায়িত্ব নিয়ে জটিল প্রশ্ন তোলে। ক্যারেক্টার.এআই-এর প্ল্যাটফর্ম প্রতিক্রিয়া তৈরি করতে বৃহৎ ভাষা মডেল (এলএলএম) ব্যবহার করে, যা কথোপকথনের একটি ভ্রম সৃষ্টি করে। এলএলএমগুলি টেক্সট এবং কোডের বিশাল ডেটাসেটের উপর প্রশিক্ষিত, যা তাদের মানুষের মতো টেক্সট অনুমান এবং তৈরি করতে সক্ষম করে। তবে, এই প্রযুক্তিটিকে ক্ষতিকর বা অনুপযুক্ত বিষয়বস্তু তৈরি করতে কাজে লাগানো যেতে পারে, বিশেষ করে যখন ব্যবহারকারীরা ইচ্ছাকৃতভাবে এই ধরনের প্রতিক্রিয়া পাওয়ার চেষ্টা করে।

এই মীমাংসাগুলো এআই প্রযুক্তির বিকাশ ও নিয়ন্ত্রণকে প্রভাবিত করতে পারে। যদি এআই কোম্পানিগুলোকে তাদের সিস্টেমের কারণে হওয়া ক্ষতির জন্য দায়ী করা হয়, তবে তারা কঠোর নিরাপত্তা ব্যবস্থা এবং কনটেন্ট মডারেশন নীতি বাস্তবায়ন করতে বাধ্য হতে পারে। এর মধ্যে ক্ষতিকর কনটেন্টের উন্নত ফিল্টারিং, বয়স যাচাইকরণ সিস্টেম এবং ব্যবহারকারীর ইন্টার‍্যাকশনগুলোর উন্নত পর্যবেক্ষণ অন্তর্ভুক্ত থাকতে পারে।

প্রযুক্তি শিল্প এবং আইনি বিশেষজ্ঞরা চলমান আলোচনাগুলো নিবিড়ভাবে পর্যবেক্ষণ করছেন। মীমাংসার শর্তাবলী থেকে আদালত এবং কোম্পানিগুলো কীভাবে এআই দায়বদ্ধতার সমস্যাটির দিকে যাচ্ছে সে সম্পর্কে ধারণা পাওয়া যেতে পারে। এই ফলাফলগুলো আইনপ্রণেতাদের এআই প্রযুক্তিগুলোর বিকাশ ও ব্যবহার নিয়ন্ত্রণ করে ব্যবহারকারীদের সম্ভাব্য ক্ষতি থেকে রক্ষা করার জন্য নতুন নিয়ম বিবেচনা করতে উৎসাহিত করতে পারে।