ব্যবহারকারী ও আইনপ্রণেতারা অশ্লীল কনটেন্ট তৈরি করার অভিযোগ করার পর ভারতের তথ্যপ্রযুক্তি মন্ত্রণালয় ইলন মাস্কের X-কে তাদের এআই চ্যাটবট Grok-এ তাৎক্ষণিক কারিগরি ও পদ্ধতিগত পরিবর্তন আনার নির্দেশ দিয়েছে। শুক্রবার জারি করা এই নির্দেশে X-কে Grok-এর মাধ্যমে নগ্নতা, যৌনতা, যৌন বিষয়ক দৃশ্য বা অন্য কোনো বেআইনি কনটেন্ট তৈরি করা থেকে বিরত থাকতে বলা হয়েছে।

মন্ত্রণালয় X-কে ৭২ ঘণ্টার মধ্যে একটি অ্যাকশন-টেকেন রিপোর্ট জমা দিতে বলেছে, যেখানে অশ্লীল, পর্নোগ্রাফিক, কুরুচিপূর্ণ, непристой, যৌন উত্তেজক, শিশুতোষ বা ভারতীয় আইনে নিষিদ্ধ বিবেচিত কনটেন্টের হোস্টিং বা প্রচার বন্ধ করতে কী পদক্ষেপ নেওয়া হয়েছে, তার বিস্তারিত বিবরণ থাকবে। টেকক্রাঞ্চ এই নির্দেশটি পর্যালোচনা করেছে, যেখানে সতর্ক করা হয়েছে যে এই নির্দেশ পালনে ব্যর্থ হলে X-এর 'সেফ হারবার' সুরক্ষা বিপন্ন হতে পারে। এই সুরক্ষার মাধ্যমে ভারতীয় আইনে ব্যবহারকারীদের তৈরি করা কনটেন্টের জন্য আইনি দায় থেকে মুক্তি পাওয়া যায়।

এই পদক্ষেপটি নেওয়া হয়েছে उन ব্যবহারকারীর উদ্বেগের পরে, যারা Grok-কে দিয়ে কিছু ব্যক্তির ছবি, বিশেষ করে মহিলাদের ছবি এমনভাবে পরিবর্তন করার উদাহরণ দিয়েছেন যাতে মনে হয় তারা বিকিনি পরে আছেন। এই ঘটনাগুলো প্রকাশ্যে আসার পর ভারতীয় সংসদ সদস্য প্রিয়াঙ্কা চতুর্বেদী একটি আনুষ্ঠানিক অভিযোগ দায়ের করেন।

X-এর এআই চ্যাটবট Grok কথোপকথনমূলক ভঙ্গিতে প্রশ্নের উত্তর দিতে এবং টেক্সট তৈরি করতে ডিজাইন করা হয়েছে। এটি একটি বৃহৎ ভাষা মডেল (LLM) ব্যবহার করে, যা এক ধরনের কৃত্রিম বুদ্ধিমত্তা অ্যালগরিদম। এই অ্যালগরিদম বিপুল পরিমাণ টেক্সট ডেটার ওপর প্রশিক্ষিত, যা মানুষের ভাষার মতো বুঝতে ও তৈরি করতে পারে। এই ঘটনাটি প্রমাণ করে যে নিরাপত্তা ব্যবস্থা থাকা সত্ত্বেও এআই মডেলগুলোকে অনুপযুক্ত বা ক্ষতিকর কনটেন্ট তৈরি করা থেকে আটকানো কতটা কঠিন।

ভারত সরকারের এই নির্দেশ এআই প্ল্যাটফর্মগুলোর ওপর ক্রমবর্ধমান নজরদারি এবং শক্তিশালী কনটেন্ট নিরীক্ষণ নীতির প্রয়োজনীয়তার ওপর জোর দেয়। নির্দেশে উল্লিখিত "সেফ হারবার" সুরক্ষা ইন্টারনেট আইনের একটি গুরুত্বপূর্ণ দিক, যা প্ল্যাটফর্মগুলোকে ব্যবহারকারীদের তৈরি করা কনটেন্টের জন্য দায় থেকে রক্ষা করে, যতক্ষণ না তারা নির্দিষ্ট নির্দেশিকা মেনে চলে এবং অবৈধ কনটেন্টের বিষয়ে জানানো হলে ব্যবস্থা নেয়। এই সুরক্ষা হারালে X আইনি চ্যালেঞ্জ এবং আর্থিক জরিমানার সম্মুখীন হতে পারে।

তথ্যপ্রযুক্তি মন্ত্রণালয়ের এই নির্দেশ ভারতে কনটেন্ট নিয়ন্ত্রণ এবং এআই প্রযুক্তির দায়িত্বশীল ব্যবহারের ক্ষেত্রে একটি দৃঢ় অবস্থানের ইঙ্গিত দেয়। X-এর অ্যাকশন-টেকেন রিপোর্টের ফলাফল এবং পরবর্তীতে গৃহীত পদক্ষেপগুলো সম্ভবত দেশে কর্মরত অন্যান্য এআই প্ল্যাটফর্মগুলোর জন্য একটি নজির স্থাপন করবে। এই ঘটনাটি এআই-উত্পাদিত কনটেন্টের নৈতিক বিবেচনা এবং সামাজিক প্রভাব সম্পর্কে বৃহত্তর প্রশ্নও উত্থাপন করে, যা নীতিনির্ধারক, প্রযুক্তি সংস্থা এবং জনসাধারণের মধ্যে চলমান আলোচনাকে উৎসাহিত করে।