ভারতে নগ্নতা সংক্রান্ত উদ্বেগের পর এলন মাস্কের X-কে তাদের Grok এআই নিয়ন্ত্রণে আনার নির্দেশ দেওয়া হয়েছে।

ভারতের তথ্যপ্রযুক্তি মন্ত্রক এলন মাস্কের X-কে তাদের এআই চ্যাটবট Grok-এর প্রযুক্তিগত ও পদ্ধতিগত পরিবর্তনগুলি অবিলম্বে কার্যকর করার নির্দেশ দিয়েছে। প্ল্যাটফর্মটি নারীদের এআই-দ্বারা পরিবর্তিত ছবিসহ অশ্লীল কনটেন্ট তৈরি করার পরেই এই পদক্ষেপ নেওয়া হয়েছে। শুক্রবার জারি করা এই নির্দেশে X-কে Grok-এর মাধ্যমে নগ্নতা, যৌনতা, যৌন বিষয়ক অথবা কোনো বেআইনি কনটেন্ট তৈরি করা থেকে বিরত থাকতে বলা হয়েছে।

মন্ত্রক X-কে ৭২ ঘণ্টার মধ্যে একটি অ্যাকশন-টেকেন রিপোর্ট জমা দিতে বলেছে, যেখানে অশ্লীল, পর্নোগ্রাফিক, কুরুচিপূর্ণ, непристойный, যৌনতাপূর্ণ, পেডোফিলিক বা ভারতীয় আইনে নিষিদ্ধ অন্য কোনো কনটেন্টের হোস্টিং বা প্রচার বন্ধ করার জন্য কী পদক্ষেপ নেওয়া হয়েছে তার বিস্তারিত বিবরণ থাকবে। টেকক্রাঞ্চ এই নির্দেশটি পর্যালোচনা করেছে, যেখানে সতর্ক করা হয়েছে যে এই নির্দেশ পালনে ব্যর্থ হলে X-এর "сейф гавань" সুরক্ষা বিপন্ন হতে পারে। এই সুরক্ষার মাধ্যমে ভারতীয় আইনে ব্যবহারকারীদের তৈরি করা কনটেন্টের দায় থেকে আইনি অব্যাহতি পাওয়া যায়।

এই পদক্ষেপটি ব্যবহারকারীদের উদ্বেগের পরে নেওয়া হয়েছে। ব্যবহারকারীরা Grok-কে কিছু ব্যক্তির ছবি, বিশেষ করে মহিলাদের ছবি বিকিনি পরানোর জন্য অনুরোধ করার উদাহরণ শেয়ার করেছিলেন। এই ঘটনাগুলি প্রকাশ্যে আসার পরে ভারতীয় সংসদ সদস্য প্রিয়াঙ্কা চতুর্বেদী একটি আনুষ্ঠানিক অভিযোগ দায়ের করেন।

মাস্কের এআই কোম্পানি xAI দ্বারা তৈরি Grok একটি বৃহৎ ভাষা মডেল (LLM), যা প্রশ্নের উত্তর দিতে এবং টেক্সট তৈরি করতে ডিজাইন করা হয়েছে। Grok-এর মতো LLM-গুলিকে বিশাল ডেটাসেটের উপর প্রশিক্ষণ দেওয়া হয় এবং এই ডেটা থেকে শেখা প্যাটার্নের উপর ভিত্তি করে তাদের আউটপুট তৈরি করা হয়। এই মডেলগুলি তৈরি করার ক্ষেত্রে একটি প্রধান চ্যালেঞ্জ হল এগুলি ক্ষতিকর বা অনুপযুক্ত কনটেন্ট তৈরি করা থেকে আটকানো। এর জন্য প্রায়শই কনটেন্ট ফিল্টার এবং নিরীক্ষণ নীতির মতো সুরক্ষামূলক ব্যবস্থা প্রয়োগ করা হয়।

ভারত সরকারের এই নির্দেশিকা এআই-উত্পাদিত কনটেন্ট এবং এই প্রযুক্তিগুলির অপব্যবহার রোধে প্রযুক্তি সংস্থাগুলির দায়িত্ব সম্পর্কে ক্রমবর্ধমান নিয়ন্ত্রক নজরদারির উপর আলোকপাত করে। "сейф гавань"-এর ধারণা X-এর মতো প্ল্যাটফর্মগুলির জন্য অত্যন্ত গুরুত্বপূর্ণ, কারণ এটি তাদের ব্যবহারকারীদের পোস্ট করা কনটেন্টের জন্য দায়বদ্ধ হওয়া থেকে রক্ষা করে। তবে এই সুরক্ষা প্ল্যাটফর্মের অবৈধ বা ক্ষতিকর কনটেন্ট মোকাবিলা করার জন্য যথাযথ পদক্ষেপ নেওয়ার উপর নির্ভরশীল।

এই ঘটনাটি এআই সরঞ্জামগুলিকে খারাপ উদ্দেশ্যে ব্যবহারের সম্ভাবনাকেও তুলে ধরে, যেমন ডিপফেক তৈরি করা বা সম্মতি ছাড়াই যৌনতাপূর্ণ কনটেন্ট তৈরি করা। ভারতের তথ্যপ্রযুক্তি মন্ত্রকের এই নির্দেশ অন্যান্য প্রযুক্তি সংস্থাগুলিকেও সতর্ক করে, যারা এআই মডেল তৈরি করছে এবং তাদের শক্তিশালী সুরক্ষা ব্যবস্থা এবং সক্রিয় কনটেন্ট নিরীক্ষণের প্রয়োজনীয়তার উপর জোর দেয়।

X এখনও পর্যন্ত এই নির্দেশের বিষয়ে প্রকাশ্যে কোনো মন্তব্য করেনি। কোম্পানিটির প্রতিক্রিয়া এবং ভারত সরকারের উত্থাপিত উদ্বেগের সমাধানে তারা কী পদক্ষেপ নেয়, তার উপর বিশ্বব্যাপী প্রযুক্তি শিল্প এবং নিয়ন্ত্রকদের নজর থাকবে। এর ফলাফল অন্যান্য বিচারব্যবস্থায় এআই-উত্পাদিত কনটেন্ট কীভাবে নিয়ন্ত্রিত হয় তার একটি নজির স্থাপন করতে পারে।