ভারতের তথ্যপ্রযুক্তি মন্ত্রণালয় ইলন মাস্কের সামাজিক মাধ্যম প্ল্যাটফর্ম X-কে তাদের এআই চ্যাটবট Grok-এ তাৎক্ষণিক কারিগরি ও পদ্ধতিগত পরিবর্তন আনার নির্দেশ দিয়েছে। এই টুলটি নারীদের এআই-দ্বারা পরিবর্তিত ছবিসহ অশ্লীল কনটেন্ট তৈরি করার পরে এই নির্দেশ দেওয়া হয়েছে। শুক্রবার জারি করা এই নির্দেশে X-কে নগ্নতা, যৌনতা, যৌন বিষয়ক দৃশ্য, বা অন্য কোনো বেআইনি বিষয় তৈরি করা থেকে Grok-কে সীমাবদ্ধ করতে বলা হয়েছে।

মন্ত্রণালয় X-কে ৭২ ঘণ্টার মধ্যে একটি অ্যাকশন-টেকেন রিপোর্ট জমা দিতে বলেছে, যেখানে অশ্লীল, পর্নোগ্রাফিক, কুরুচিপূর্ণ, অশালীন, যৌন উত্তেজক, শিশুতোষ বা ভারতীয় আইনে নিষিদ্ধ বিবেচিত সামগ্রীর হোস্টিং বা বিস্তার রোধে কী পদক্ষেপ নেওয়া হয়েছে তার বিস্তারিত বিবরণ থাকবে। টেকক্রাঞ্চ এই নির্দেশটি পর্যালোচনা করেছে, যেখানে সতর্ক করা হয়েছে যে, এই নির্দেশ পালনে ব্যর্থ হলে X-এর সেইফ হারবার সুরক্ষা বিপন্ন হতে পারে। এই সুরক্ষার মাধ্যমে ভারতীয় আইনের অধীনে ব্যবহারকারী-উত্পাদিত সামগ্রীর দায় থেকে আইনি অনাক্রম্যতা প্রদান করা হয়।

এই পদক্ষেপটি ব্যবহারকারীদের উত্থাপিত উদ্বেগের পরে নেওয়া হয়েছে। ব্যবহারকারীরা Grok-কে কিছু ব্যক্তির ছবি, বিশেষ করে মহিলাদের ছবি বিকিনি পরিহিত অবস্থায় পরিবর্তন করার জন্য অনুরোধ করার উদাহরণ শেয়ার করেছিলেন। এই ঘটনাগুলো প্রকাশ্যে আসার পরে ভারতীয় সংসদ সদস্য প্রিয়াঙ্কা চতুর্বেদী একটি আনুষ্ঠানিক অভিযোগ দায়ের করেন।

X-এর এআই চ্যাটবট Grok কথোপকথনের মাধ্যমে প্রশ্নের উত্তর দিতে এবং টেক্সট তৈরি করতে ডিজাইন করা হয়েছে। এটি একটি বৃহৎ ভাষা মডেল (LLM) ব্যবহার করে, যা এক ধরনের কৃত্রিম বুদ্ধিমত্তা অ্যালগরিদম। এই অ্যালগরিদম মানুষের মতো টেক্সট বুঝতে ও তৈরি করতে বিপুল পরিমাণ টেক্সট ডেটার উপর প্রশিক্ষিত। এই ঘটনা LLM-এর আউটপুট নিয়ন্ত্রণে থাকা চ্যালেঞ্জগুলোকে তুলে ধরে, যা মাঝে মাঝে অপ্রত্যাশিত বা ক্ষতিকর কনটেন্ট তৈরি করতে পারে।

ভারতীয় সরকারের এই নির্দেশনা এআই-উত্পাদিত কনটেন্টের ক্রমবর্ধমান নিরীক্ষণ এবং এই ধরনের প্রযুক্তি ব্যবহারকারী প্ল্যাটফর্মগুলোর দায়িত্বের উপর জোর দেয়। ভারতের তথ্যপ্রযুক্তি আইনের ৭৯ ধারায় বর্ণিত সেইফ হারবার সুরক্ষা X-এর মতো মধ্যস্থতাকারীদের ব্যবহারকারী-উত্পাদিত সামগ্রীর দায় থেকে রক্ষা করে, যদি তারা নির্দিষ্ট নির্দেশিকা মেনে চলে এবং অবৈধ কনটেন্ট সম্পর্কে অবহিত হওয়ার সঙ্গে সঙ্গেই তার সমাধান করে।

আইটি মন্ত্রণালয়ের এই আদেশ ভারতে এআই প্ল্যাটফর্মগুলোর জন্য নিয়ন্ত্রক ল্যান্ডস্কেপে একটি সম্ভাব্য পরিবর্তনের ইঙ্গিত দেয়। সরকার এআই দ্বারা সৃষ্ট চ্যালেঞ্জগুলো মোকাবিলা করার জন্য নতুন নিয়মকানুন সক্রিয়ভাবে বিবেচনা করছে, যার মধ্যে পক্ষপাত, ভুল তথ্য এবং ক্ষতিকর কনটেন্ট সম্পর্কিত বিষয়গুলো অন্তর্ভুক্ত রয়েছে। এই পরিস্থিতির ফলাফল ভারতে এআই প্ল্যাটফর্মগুলো কীভাবে নিয়ন্ত্রিত হয় তার একটি নজির স্থাপন করতে পারে এবং সম্ভবত অন্যান্য দেশেও অনুরূপ নিয়মকানুনকে প্রভাবিত করতে পারে। X এখনও পর্যন্ত আনুষ্ঠানিকভাবে এই আদেশের বিষয়ে কোনো মন্তব্য করেনি। কোম্পানিটির প্রতিক্রিয়া এবং ভারতীয় সরকার কর্তৃক উত্থাপিত উদ্বেগের সমাধানে কোম্পানিটি যে পদক্ষেপ নেবে, তা প্রযুক্তি শিল্প এবং নীতিনির্ধারকদের দ্বারা নিবিড়ভাবে পর্যবেক্ষণ করা হবে।