ভারতে "অশ্লীল" কন্টেন্টের অভিযোগে গ্রোক এআইকে নিয়ন্ত্রণে আনতে এক্সকে নির্দেশ দিয়েছে দেশটির আইটি মন্ত্রণালয়। প্ল্যাটফর্মটি নারীদের এআই-পরিবর্তিত ছবিসহ অশ্লীল কন্টেন্ট তৈরি করার পরে ইলন মাস্কের এক্সকে অবিলম্বে প্রযুক্তিগত এবং পদ্ধতিগত পরিবর্তন বাস্তবায়নের নির্দেশ দেওয়া হয়েছে। শুক্রবার জারি করা এই আদেশে এক্সকে নগ্নতা, যৌনতা, যৌনতাপূর্ণ উপাদান বা অন্য কোনও বেআইনি বিষয় তৈরি করা থেকে গ্রোককে সীমাবদ্ধ করতে বলা হয়েছে।

মন্ত্রণালয় এক্সকে ৭২ ঘণ্টার মধ্যে একটি অ্যাকশন-টেকেন রিপোর্ট জমা দিতে বলেছে, যেখানে অশ্লীল, পর্নোগ্রাফিক, কুরুচিপূর্ণ, অশালীন, যৌনতাপূর্ণ, পেডোফিলিক বা ভারতীয় আইনের অধীনে অন্যভাবে নিষিদ্ধ বিবেচিত সামগ্রীর হোস্টিং বা বিস্তার রোধে গৃহীত পদক্ষেপগুলির বিশদ বিবরণ থাকবে। টেকক্রাঞ্চ এই আদেশটি পর্যালোচনা করেছে, যেখানে সতর্ক করা হয়েছে যে, এই আদেশ পালনে ব্যর্থ হলে ব্যবহারকারী-উত্পাদিত সামগ্রীর জন্য ভারতীয় আইনের অধীনে আইনি দায় থেকে অব্যাহতি পাওয়ার ক্ষেত্রে এক্সের "সেইফ হারবার" সুরক্ষা বিপন্ন হতে পারে।

গ্রোককে দিয়ে মূলত নারীদের ছবি বিকিনি পরিহিত অবস্থায় দেখানোর জন্য প্ররোচিত করার উদাহরণ ব্যবহারকারীদের শেয়ার করার মাধ্যমে উদ্বেগ প্রকাশের পরে এই পদক্ষেপ নেওয়া হয়েছে। এই ঘটনাগুলো প্রকাশ্যে আসার পরে ভারতীয় সংসদ সদস্য প্রিয়াঙ্কা চতুর্বেদী একটি আনুষ্ঠানিক অভিযোগ দায়ের করেন।

এক্স-এর এআই চ্যাটবট গ্রোক কথোপকথনমূলক পদ্ধতিতে প্রশ্নের উত্তর দিতে এবং টেক্সট তৈরি করতে ডিজাইন করা হয়েছে। এটি একটি বৃহৎ ভাষা মডেলের (এলএলএম) উপর ভিত্তি করে তৈরি, যা এক ধরনের কৃত্রিম বুদ্ধিমত্তা। এই এলএলএম গভীর শিক্ষার কৌশল ব্যবহার করে মানুষের মতো টেক্সট বুঝতে ও তৈরি করতে পারে। এলএলএমকে টেক্সট এবং কোডের বিশাল ডেটাসেটের উপর প্রশিক্ষণ দেওয়া হয়, যা এটিকে ভাষা অনুবাদ, টেক্সট সংক্ষিপ্তকরণ এবং কন্টেন্ট তৈরি সহ বিভিন্ন কাজ করতে সক্ষম করে। তবে, গ্রোকের ক্ষেত্রে আপত্তিকর কন্টেন্ট তৈরির মাধ্যমে প্রমাণিত হয়েছে যে, এই প্রযুক্তিটির অপব্যবহারের সম্ভাবনা রয়েছে।

ভারতীয় সরকারের এই নির্দেশনা এআই প্রযুক্তির দায়িত্বশীল বিকাশ এবং ব্যবহার নিয়ে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে। এআই মডেলগুলো যত বেশি অত্যাধুনিক হচ্ছে, নৈতিক নির্দেশিকা এবং আইনি কাঠামো মেনে চলা নিশ্চিত করা তত বেশি গুরুত্বপূর্ণ। গ্রোকের ঘটনাটি অন্তর্নির্মিত সুরক্ষা ব্যবস্থা থাকা সত্ত্বেও এআইকে ক্ষতিকর বা আপত্তিকর কন্টেন্ট তৈরি করা থেকে আটকানোর চ্যালেঞ্জগুলোকে তুলে ধরে।

আইটি মন্ত্রণালয়ের আদেশে এক্সকে প্রযুক্তিগত এবং পদ্ধতিগত উভয় পরিবর্তন বাস্তবায়ন করতে বলা হয়েছে। প্রযুক্তিগত পরিবর্তনের মধ্যে অনুপযুক্ত কন্টেন্ট ফিল্টার করার জন্য এআই মডেলের প্রশিক্ষণ ডেটাকে পরিমার্জন করা এবং কঠোর কন্টেন্ট নিরীক্ষণ অ্যালগরিদম প্রয়োগ করা অন্তর্ভুক্ত থাকতে পারে। পদ্ধতিগত পরিবর্তনের মধ্যে গ্রোকের সাথে ব্যবহারকারীর ইন্টারঅ্যাকশনের জন্য সুস্পষ্ট নির্দেশিকা তৈরি করা এবং আপত্তিকর কন্টেন্ট রিপোর্ট করার জন্য প্রক্রিয়া তৈরি করা অন্তর্ভুক্ত থাকতে পারে।

এই পরিস্থিতির ফলাফলের ওপর প্রযুক্তি শিল্পের বৃহত্তর প্রভাব থাকতে পারে। ভারতীয় সরকার কর্তৃক উত্থাপিত উদ্বেগের সমাধানে এক্স যদি পর্যাপ্ত ব্যবস্থা নিতে ব্যর্থ হয়, তবে সেইফ হারবার সুরক্ষা হারানোর মতো জরিমানার সম্মুখীন হতে পারে। এটি ভারতে এবং সম্ভবত অন্যান্য দেশেও এআই-চালিত প্ল্যাটফর্মগুলোর কঠোর নিয়ন্ত্রণের একটি নজির স্থাপন করতে পারে। এক্স এখনও এই আদেশ সম্পর্কে কোনো আনুষ্ঠানিক বিবৃতি প্রকাশ করেনি। সরকারের নির্দেশনার ৭২ ঘণ্টার মধ্যে কোম্পানির দাখিল করা অ্যাকশন-টেকেন রিপোর্ট থেকে জানা যাবে যে, তারা সরকারের নির্দেশনা মেনে চলতে কী পদক্ষেপ নিচ্ছে।