ভারতের আইটি মন্ত্রক এলন মাস্কের X-কে তাদের এআই চ্যাটবট Grok-এ তাৎক্ষণিক প্রযুক্তিগত এবং পদ্ধতিগত পরিবর্তন আনার নির্দেশ দিয়েছে। কারণ এই সরঞ্জামটি নারীদের এআই-পরিবর্তিত ছবিসহ অশ্লীল সামগ্রী তৈরি করেছে। শুক্রবার জারি করা এই নির্দেশে X-কে Grok-এর মাধ্যমে নগ্নতা, যৌনতা, যৌন বিষয়ক দৃশ্য বা অন্য কোনো বেআইনি বিষয় তৈরি করা থেকে বিরত থাকতে বলা হয়েছে।

মন্ত্রক X-কে ৭২ ঘণ্টার মধ্যে একটি কার্যবিবরণী জমা দিতে বলেছে, যেখানে অশ্লীল, পর্নোগ্রাফিক, কুরুচিপূর্ণ, অশালীন, যৌন উত্তেজক, শিশুতোষ বা ভারতীয় আইনে নিষিদ্ধ বিবেচিত সামগ্রীর হোস্টিং বা বিস্তার রোধে গৃহীত পদক্ষেপগুলির বিশদ বিবরণ থাকবে। টেকক্রাঞ্চ এই নির্দেশটি পর্যালোচনা করেছে, যেখানে সতর্ক করা হয়েছে যে, এই নির্দেশ পালনে ব্যর্থ হলে X-এর "সেইফ হারবার" সুরক্ষা বিপন্ন হতে পারে। এই সুরক্ষার মাধ্যমে ভারতীয় আইনে ব্যবহারকারী-উত্পাদিত সামগ্রীর দায় থেকে আইনি অব্যাহতি পাওয়া যায়।

এই পদক্ষেপটি ব্যবহারকারীদের উদ্বেগের পরে নেওয়া হয়েছে। ব্যবহারকারীরা Grok-কে কিছু ব্যক্তির, মূলত মহিলাদের ছবি পরিবর্তন করে তাদের বিকিনি পরিহিত দেখানোর জন্য অনুরোধ করার উদাহরণ শেয়ার করেছেন। ভারতীয় সংসদ সদস্য প্রিয়াঙ্কা চতুর্বেদী এই উদাহরণগুলি দেখার পরে একটি আনুষ্ঠানিক অভিযোগ দায়ের করেছেন।

মাস্কের এআই সংস্থা xAI দ্বারা তৈরি Grok একটি বৃহৎ ভাষা মডেল, যা প্রশ্নের উত্তর দিতে এবং টেক্সট তৈরি করতে ডিজাইন করা হয়েছে। বৃহৎ ভাষা মডেল (LLM) টেক্সট এবং কোডের বিশাল ডেটাসেটের উপর প্রশিক্ষিত, যা তাদের অনুবাদ, সারসংক্ষেপ এবং সামগ্রী তৈরির মতো কাজ করতে সক্ষম করে। তবে, LLM-এর একটি সাধারণ চ্যালেঞ্জ হল এটি ক্ষতিকারক বা অনুপযুক্ত সামগ্রী তৈরি করা থেকে বিরত রাখা। এর জন্য প্রায়শই কন্টেন্ট ফিল্টার এবং মডারেশন পলিসির মতো সুরক্ষা ব্যবস্থা প্রয়োগ করা হয়।

ভারতীয় সরকারের এই নির্দেশ এআই-উত্পাদিত সামগ্রীর ক্রমবর্ধমান নিরীক্ষণ এবং এই প্রযুক্তি হোস্ট করা প্ল্যাটফর্মগুলির দায়িত্ব তুলে ধরে। নির্দেশে উল্লিখিত "সেইফ হারবার" সুরক্ষা X-এর মতো প্ল্যাটফর্মগুলির জন্য অত্যন্ত গুরুত্বপূর্ণ, কারণ এটি ব্যবহারকারীদের পোস্ট করা সামগ্রীর জন্য আইনি দায় থেকে তাদের রক্ষা করে, যদি তারা নির্দিষ্ট নির্দেশিকা মেনে চলে এবং অবৈধ সামগ্রীর বিষয়ে জানানো হলে ব্যবস্থা নেয়। এই সুরক্ষা হারালে X মামলা মোকদ্দমার শিকার হতে পারে এবং ভারতে তাদের পরিচালন ব্যয় উল্লেখযোগ্যভাবে বাড়তে পারে।

X এখনও পর্যন্ত এই নির্দেশের বিষয়ে প্রকাশ্যে কোনো মন্তব্য করেনি। কোম্পানিটির প্রতিক্রিয়া এবং ভারতীয় সরকারের নির্দেশাবলী মেনে চলার জন্য গৃহীত পদক্ষেপগুলি অন্যান্য দেশ এবং প্রযুক্তি সংস্থাগুলি ঘনিষ্ঠভাবে পর্যবেক্ষণ করবে, যারা এআই কন্টেন্ট মডারেশন সম্পর্কিত অনুরূপ সমস্যাগুলির সাথে লড়াই করছে। এই ঘটনাটি এআই-এর নৈতিক প্রভাব এবং এর ব্যবহার নিয়ন্ত্রণ করার জন্য শক্তিশালী নিয়ন্ত্রক কাঠামোর প্রয়োজনীয়তা সম্পর্কে চলমান বিতর্ককে তুলে ধরে। এই পরিস্থিতির ফলাফল ভারতে এআই প্ল্যাটফর্মগুলি কীভাবে নিয়ন্ত্রিত হয় তার একটি নজির স্থাপন করতে পারে এবং সম্ভবত বিশ্বব্যাপী মানকে প্রভাবিত করতে পারে।