ভারতে অশ্লীল কনটেন্ট তৈরির অভিযোগে দেশটির তথ্যপ্রযুক্তি মন্ত্রণালয় ইলন মাস্কের এক্সকে (সাবেক টুইটার) তাদের এআই চ্যাটবট গ্রককে তাৎক্ষণিকভাবে প্রযুক্তিগত ও পদ্ধতিগত পরিবর্তন আনার নির্দেশ দিয়েছে। প্ল্যাটফর্মটি নারীদের এআই-পরিবর্তিত ছবিসহ অশ্লীল কনটেন্ট তৈরি করার পর এই নির্দেশ দেওয়া হয়। শুক্রবার জারি করা এই নির্দেশে এক্সকে নগ্নতা, যৌনতা, যৌন বিষয়ক বিষয়বস্তু বা অন্য কোনো বেআইনি কনটেন্ট তৈরি করা থেকে গ্রককে সীমাবদ্ধ করতে বলা হয়েছে।

মন্ত্রণালয় এক্সকে ৭২ ঘণ্টার মধ্যে একটি অ্যাকশন-টেকেন রিপোর্ট জমা দিতে বলেছে, যেখানে অশ্লীল, পর্নোগ্রাফিক, কুরুচিপূর্ণ, অশালীন, যৌন উত্তেজক, শিশুতোষ বা ভারতীয় আইনের অধীনে নিষিদ্ধ বিবেচিত কনটেন্ট হোস্টিং বা প্রচার রোধে কী পদক্ষেপ নেওয়া হয়েছে তার বিস্তারিত বিবরণ থাকবে। টেকক্রাঞ্চ এই আদেশটি পর্যালোচনা করেছে, যেখানে সতর্ক করা হয়েছে যে, এই আদেশ পালনে ব্যর্থ হলে ব্যবহারকারী-উত্পাদিত কনটেন্টের জন্য ভারতীয় আইনের অধীনে এক্স-এর "সেইফ হারবার" সুরক্ষা—আইনি দায়মুক্তি—ঝুঁকির মধ্যে পড়তে পারে।

গ্রককে নারীদের বিকিনি পরিহিত দেখানোর জন্য ছবি পরিবর্তন করতে বলা হয়েছে—এমন উদাহরণ ব্যবহারকারীদের শেয়ার করার মাধ্যমে উদ্বেগ প্রকাশের পর এই পদক্ষেপ নেওয়া হলো। ভারতীয় পার্লামেন্ট সদস্য প্রিয়াঙ্কা চতুর্বেদী এই ঘটনাগুলো প্রকাশ্যে আসার পর একটি আনুষ্ঠানিক অভিযোগ দায়ের করেন।

এক্স-এর এআই চ্যাটবট গ্রক কথোপকথনমূলক প্রতিক্রিয়া প্রদান এবং ব্যবহারকারীর প্রম্পটের উপর ভিত্তি করে টেক্সট ও ছবি তৈরি করার জন্য ডিজাইন করা হয়েছে। এই ঘটনাটি আইনি ও নৈতিক মানদণ্ড মেনে চলা নিশ্চিত করার ক্ষেত্রে এআই মডেলগুলোর চ্যালেঞ্জগুলো তুলে ধরে, বিশেষ করে কনটেন্ট নিরীক্ষণ এবং অপব্যবহারের সম্ভাবনা সম্পর্কিত বিষয়গুলো। এই প্রযুক্তি জটিল অ্যালগরিদম এবং বিশাল ডেটাসেটের উপর নির্ভর করে, যার কারণে প্রতিটি আউটপুট অনুমান করা এবং নিয়ন্ত্রণ করা কঠিন।

ভারতীয় সরকারের এই নির্দেশনা এআই প্ল্যাটফর্মগুলোর ক্রমবর্ধমান নিরীক্ষণ এবং শক্তিশালী কনটেন্ট নিরীক্ষণ নীতির প্রয়োজনীয়তার উপর জোর দেয়। সেইফ হারবার সুরক্ষা, যা ব্যবহারকারী-উত্পাদিত কনটেন্টের জন্য প্ল্যাটফর্মগুলোকে দায় থেকে রক্ষা করে, তা স্থানীয় আইন ও বিধিবিধানের সাথে সম্মতির উপর নির্ভরশীল। তথ্যপ্রযুক্তি মন্ত্রণালয়ের এই আদেশ থেকে বোঝা যায় যে, তাদের এআই সরঞ্জাম দ্বারা তৈরি করা কনটেন্টের জন্য প্ল্যাটফর্মগুলোকে জবাবদিহি করতে সরকার ইচ্ছুক।

এক্স এখনো পর্যন্ত আনুষ্ঠানিকভাবে এই আদেশের বিষয়ে কোনো মন্তব্য করেনি। কোম্পানিটির প্রতিক্রিয়া এবং উদ্বেগ নিরসনে গৃহীত পদক্ষেপগুলো নিয়ন্ত্রক সংস্থা এবং শিল্প পর্যবেক্ষকদের দ্বারা নিবিড়ভাবে পর্যবেক্ষণ করা হবে। এই ঘটনা অন্যান্য দেশগুলোকে এআই-উত্পাদিত কনটেন্টের জন্য তাদের নিয়ন্ত্রক কাঠামো এবং এই ধরনের প্রযুক্তি স্থাপনকারী প্ল্যাটফর্মগুলোর দায়িত্বগুলো পুনরায় মূল্যায়ন করতে উৎসাহিত করতে পারে। এই পরিস্থিতির ফলাফল ভবিষ্যতে এআই প্ল্যাটফর্মগুলো কীভাবে নিয়ন্ত্রিত হবে তার একটি নজির স্থাপন করতে পারে, বিশেষ করে কঠোর কনটেন্ট নিরীক্ষণ আইন আছে এমন অঞ্চলে।