ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বন্টা শুক্রবার xAI-কে একটি কারণ দর্শানোর নোটিশ (cease-and-desist letter) জারি করেছেন, যাতে কোম্পানিটিকে অবিলম্বে ডিপফেক (deepfake), সম্মতিবিহীন অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী (CSAM) তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে। অ্যাটর্নি জেনারেলের অফিসের পূর্ববর্তী ঘোষণার পর এই পদক্ষেপ নেওয়া হয়েছে। ওই ঘোষণায় বলা হয়েছিল যে ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা বিষয়ক স্টার্টআপ xAI-এর চ্যাটবট গ্রোক (Grok) ব্যবহার করে নারী ও অপ্রাপ্তবয়স্কদের সম্মতিবিহীন যৌন ছবি তৈরি করার অভিযোগের তদন্ত করা হচ্ছে।
বন্টা এক প্রেস বিজ্ঞপ্তিতে বলেন, "আজ আমি xAI-কে একটি কারণ দর্শানোর নোটিশ পাঠিয়েছি, যাতে কোম্পানিটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে। এই ধরনের সামগ্রী তৈরি করা অবৈধ। আমি আশা করি xAI অবিলম্বে এটি মেনে চলবে। ক্যালিফোর্নিয়াতে CSAM-এর প্রতি জিরো টলারেন্স (zero tolerance) নীতি রয়েছে।"
অ্যাটর্নি জেনারেলের অফিস আরও দাবি করেছে যে xAI সম্মতিবিহীন নগ্ন ছবি তৈরি করতে সহায়তা করছে বলে মনে হচ্ছে, যা অনলাইনে নারী ও মেয়েদের হয়রানি করার জন্য ব্যবহার করা হচ্ছে। সংস্থাটি আশা করে যে xAI পাঁচ দিনের মধ্যে এই সমস্যাগুলি সমাধানের জন্য কী পদক্ষেপ নিচ্ছে, তা জানাবে।
এই বিতর্কের কেন্দ্রবিন্দুতে রয়েছে গ্রোকের "স্পাইসি মোড" (spicy mode) নামক একটি বৈশিষ্ট্য, যা xAI এআই চ্যাটবট থেকে আরও খোলামেলা এবং সম্ভাব্য উস্কানিমূলক প্রতিক্রিয়া পাওয়ার জন্য তৈরি করেছে। এই বৈশিষ্ট্যটি, ব্যবহারকারীদের আরও বেশি আকর্ষণীয় অভিজ্ঞতা দেওয়ার উদ্দেশ্যে তৈরি করা হলেও, এটি ক্ষতিকর এবং অবৈধ কনটেন্ট (content) তৈরির পথ খুলে দিয়েছে বলে মনে হচ্ছে।
ডিপফেক, যা এআই-উত্পাদিত সিনথেটিক মিডিয়া (synthetic media), তা ক্রমশ অত্যাধুনিক হয়ে উঠছে, যা এর অপব্যবহারের সম্ভাবনা সম্পর্কে উদ্বেগ বাড়াচ্ছে। এই প্রযুক্তি বাস্তবসম্মত দেখতে কিন্তু সম্পূর্ণরূপে জাল ছবি এবং ভিডিও তৈরি করতে সক্ষম, যার ফলে কোনটি আসল এবং কোনটি নকল, তা আলাদা করা কঠিন হয়ে পড়েছে। এটি আইন প্রয়োগকারী সংস্থা এবং কনটেন্ট নিরীক্ষণের প্রচেষ্টার জন্য উল্লেখযোগ্য চ্যালেঞ্জ তৈরি করেছে।
ডিপফেক পর্নোগ্রাফি তৈরি এবং বিতরণের আইনি প্রভাব, বিশেষ করে অপ্রাপ্তবয়স্কদের জড়িত থাকার ক্ষেত্রে, খুবই গুরুতর। এই ধরনের কাজ শিশু পর্নোগ্রাফি আইন, সেইসাথে যৌন হয়রানি এবং মানহানির আইনের লঙ্ঘন হিসেবে গণ্য হতে পারে। সম্মতিবিহীন অন্তরঙ্গ ছবি তৈরি করতে এআই-এর ব্যবহার এআই ডেভেলপারদের তাদের প্রযুক্তির অপব্যবহার রোধ করার দায়িত্ব সম্পর্কে নৈতিক প্রশ্নও উত্থাপন করে।
xAI এখনও পর্যন্ত কারণ দর্শানোর নোটিশের প্রতিক্রিয়ায় কোনো আনুষ্ঠানিক বিবৃতি দেয়নি। কোম্পানিটি এখন তাদের এআই মডেল দ্বারা তৈরি ক্ষতিকর কনটেন্ট তৈরি এবং বিতরণ বন্ধ করার প্রতিশ্রুতি প্রদর্শনের চ্যালেঞ্জের সম্মুখীন। ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের অফিস xAI-এর প্রতিক্রিয়ার জন্য এবং আগামী পাঁচ দিনের মধ্যে সংশোধনমূলক পদক্ষেপের প্রমাণ পাওয়ার জন্য অপেক্ষা করছে। এই ঘটনা উন্নত এআই প্রযুক্তির সঙ্গে জড়িত সম্ভাব্য ক্ষতি মোকাবেলার জন্য শক্তিশালী সুরক্ষা এবং নিয়ন্ত্রণের প্রয়োজনীয়তার ওপর জোর দেয়।
Discussion
Join the conversation
Be the first to comment