ভারতে এলন মাস্কের X-কে তাদের এআই চ্যাটবট গ্রোকের মাধ্যমে অশ্লীল বিষয়বস্তু, বিশেষ করে নারীদের এআই-দ্বারা পরিবর্তিত ছবি তৈরি করার পরে, তাৎক্ষণিক প্রযুক্তিগত এবং পদ্ধতিগত পরিবর্তন করার নির্দেশ দিয়েছে দেশটির তথ্যপ্রযুক্তি মন্ত্রণালয়। শুক্রবার জারি করা এই নির্দেশে X-কে গ্রোকের মাধ্যমে নগ্নতা, যৌনতা, যৌন বিষয়ক অথবা অন্য কোনো বেআইনি বিষয়বস্তু তৈরি করা থেকে বিরত থাকতে বলা হয়েছে।

মন্ত্রণালয় X-কে ৭২ ঘণ্টার মধ্যে একটি কার্যবিবরণী জমা দিতে বলেছে, যেখানে অশ্লীল, পর্নোগ্রাফিক, কুরুচিপূর্ণ, অশালীন, যৌনতাপূর্ণ, শিশুতোষ অথবা ভারতীয় আইনে নিষিদ্ধ বিষয়বস্তু হোস্ট করা বা প্রচার করা বন্ধ করতে কী পদক্ষেপ নেওয়া হয়েছে, তা বিস্তারিতভাবে জানাতে হবে। টেকক্রাঞ্চ এই নির্দেশটি পর্যালোচনা করে দেখেছে, যেখানে সতর্ক করা হয়েছে যে, এই নির্দেশ পালনে ব্যর্থ হলে X-এর সেইফ হারবার সুরক্ষা, অর্থাৎ ভারতীয় আইনে ব্যবহারকারীদের তৈরি করা বিষয়বস্তুর দায় থেকে আইনি অব্যাহতি বিপন্ন হতে পারে।

এই পদক্ষেপটি নেওয়া হয়েছে ব্যবহারকারীদের উদ্বেগের পরে। ব্যবহারকারীরা গ্রোককে কিছু ছবি পরিবর্তন করতে বলার উদাহরণ শেয়ার করেছিলেন, যেখানে মূলত নারীদের ছবি বিকিনি পরিহিত অবস্থায় দেখানো হচ্ছিল। এই ঘটনাগুলো প্রকাশ্যে আসার পরে ভারতীয় সংসদ সদস্য প্রিয়াঙ্কা চতুর্বেদী একটি আনুষ্ঠানিক অভিযোগ দায়ের করেন।

X-এর এআই চ্যাটবট গ্রোক এমনভাবে তৈরি করা হয়েছে, যা কথোপকথনের মাধ্যমে প্রশ্নের উত্তর দিতে এবং টেক্সট তৈরি করতে পারে। এটি একটি বৃহৎ ভাষা মডেলের (এলএলএম) উপর ভিত্তি করে তৈরি, যা এক ধরনের কৃত্রিম বুদ্ধিমত্তা। এই মডেলে গভীর শিক্ষা পদ্ধতি ব্যবহার করে মানুষের মতো টেক্সট বোঝা এবং তৈরি করা যায়। এলএলএমগুলি টেক্সট এবং কোডের বিশাল ডেটাসেটের উপর প্রশিক্ষিত, যা তাদের ভাষা অনুবাদ, টেক্সট সংক্ষিপ্তকরণ এবং বিষয়বস্তু তৈরি সহ বিভিন্ন কাজ করতে সক্ষম করে। তবে, এলএলএমগুলিকে সঠিকভাবে নিয়ন্ত্রণ ও নিরীক্ষণ করা না হলে পক্ষপাতদুষ্ট, আপত্তিকর বা ক্ষতিকর বিষয়বস্তু তৈরি করার সম্ভাবনাও থাকে।

ভারতীয় সরকারের এই নির্দেশনা এআই প্রযুক্তির দায়িত্বশীল উন্নয়ন এবং ব্যবহার নিয়ে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে। এআই মডেলগুলো যত বেশি অত্যাধুনিক হচ্ছে, ততই নিশ্চিত করতে হবে যে সেগুলো যেন সামাজিক মূল্যবোধ এবং আইনি কাঠামোর সঙ্গে সঙ্গতিপূর্ণ হয়। তথ্যপ্রযুক্তি মন্ত্রণালয়ের এই নির্দেশ এআই-এর অপব্যবহার রোধে এবং ক্ষতিকর বা অবৈধ বিষয়বস্তু তৈরি করা থেকে বিরত থাকার জন্য সুরক্ষাব্যবস্থা নেওয়ার গুরুত্বের ওপর জোর দেয়।

X এখনও পর্যন্ত এই নির্দেশের বিষয়ে কোনো মন্তব্য করেনি। কোম্পানিটির প্রতিক্রিয়া এবং ভারতীয় সরকারের উত্থাপিত উদ্বেগের সমাধানে তারা কী পদক্ষেপ নেয়, সেদিকে প্রযুক্তি শিল্প এবং বিশ্বজুড়ে নিয়ন্ত্রক সংস্থাগুলোর নজর থাকবে। এই পদক্ষেপ এআই প্ল্যাটফর্মগুলো কীভাবে নিয়ন্ত্রিত হবে এবং তাদের সিস্টেম দ্বারা তৈরি বিষয়বস্তুর জন্য কীভাবে দায়বদ্ধ করা হবে, তার একটি নজির স্থাপন করতে পারে। পরবর্তী পদক্ষেপ হিসেবে X-কে নির্ধারিত সময়ের মধ্যে তাদের কার্যবিবরণী জমা দিতে হবে, এরপর তথ্যপ্রযুক্তি মন্ত্রণালয় বাস্তবায়িত পদক্ষেপগুলোর কার্যকারিতা মূল্যায়ন করবে।