ইলন মাস্কের xAI দ্বারা তৈরি কৃত্রিম বুদ্ধিমত্তা চ্যাটবট গ্রোক-এর মাধ্যমে বাস্তব মানুষের যৌন আবেদনপূর্ণ ছবি তৈরি করার ব্যাপক সমালোচনার পর ইন্দোনেশিয়া ও মালয়েশিয়া গ্রোক-এর অ্যাক্সেস বন্ধ করে দিয়েছে। ইন্দোনেশিয়া সরকার শনিবার সাময়িকভাবে এটি নিষিদ্ধ করে, রবিবার মালয়েশিয়াও একই পথে হাঁটে। এই পদক্ষেপগুলি এমন ছবি তৈরি হওয়ার বিষয়ে উদ্বিগ্ন দেশগুলোর দ্বারা অ্যাপ্লিকেশনটির প্রথম আনুষ্ঠানিক নিষেধাজ্ঞা।

ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল বিষয়ক মন্ত্রী মেউট্যা হাফিদ শনিবার বলেছেন, সরকার সম্মতি ব্যতিরেকে তৈরি করা যৌন উত্তেজক ডিপফেককে ডিজিটাল ক্ষেত্রে মানবাধিকার, মর্যাদা এবং নাগরিকদের নিরাপত্তার গুরুতর লঙ্ঘন বলে মনে করে। গ্রোক দ্বারা তৈরি করা যৌন উত্তেজক ছবি X (যা মাস্কের মালিকানাধীন একটি সোশ্যাল মিডিয়া প্ল্যাটফর্ম)-এ আসার প্রতিক্রিয়ায় এই নিষেধাজ্ঞা জারি করা হয়েছে। X-এর ব্যবহারকারীরা চ্যাটবটটিকে যৌন উত্তেজক পরিস্থিতিতে বাস্তব মানুষের ছবি তৈরি করতে উৎসাহিত করতে পারে।

অন্যান্য এআই চ্যাটবটগুলোর মতো গ্রোকের পেছনের প্রযুক্তিও টেক্সট এবং ছবির বিশাল ডেটাসেটের ওপর ভিত্তি করে তৈরি করা লার্জ ল্যাঙ্গুয়েজ মডেলের (এলএলএম) ওপর নির্ভরশীল। এই মডেলগুলো ডেটার মধ্যে থাকা প্যাটার্ন এবং সম্পর্কগুলোর ওপর ভিত্তি করে নতুন কনটেন্ট তৈরি করতে শেখে। তবে, প্রশিক্ষণের ডেটাতে পক্ষপাতদুষ্টতা থাকলে বা মডেলটিকে সঠিকভাবে নিয়ন্ত্রণ করা না গেলে এই প্রক্রিয়াটি অজান্তেই ক্ষতিকর বা অনুপযুক্ত কনটেন্ট তৈরি করতে পারে। এআই-উত্পাদিত ডিপফেক, বিশেষ করে যৌন প্রকৃতির ছবিগুলোর বিষয়টি বিশ্বব্যাপী উল্লেখযোগ্য নৈতিক ও আইনি উদ্বেগের জন্ম দিয়েছে। বিশেষজ্ঞরা সতর্ক করে বলেছেন যে এই ছবিগুলো হয়রানি, ব্ল্যাকমেল এবং ভুল তথ্য ছড়ানোর জন্য ব্যবহার করা হতে পারে।

ইন্দোনেশিয়া ও মালয়েশিয়ার নিষেধাজ্ঞা প্রযুক্তিগত উদ্ভাবন এবং এআই-এর সম্ভাব্য ক্ষতি থেকে ব্যক্তিদের সুরক্ষার প্রয়োজনীয়তার মধ্যে ক্রমবর্ধমান উত্তেজনাকে তুলে ধরে। এআই অসংখ্য সুবিধা দিলেও এর অপব্যবহারের গুরুতর পরিণতি হতে পারে, যার জন্য সতর্কতার সাথে নিয়ন্ত্রণ ও তদারকি করা প্রয়োজন। এই ঘটনাটি সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলোর এআই-উত্পাদিত কনটেন্ট নিরীক্ষণ এবং এর বিস্তার রোধে যে চ্যালেঞ্জগুলো রয়েছে, সেগুলোর ওপরও আলোকপাত করে। xAI-এর একটি সহযোগী সংস্থা X Corp নিষেধাজ্ঞার বিষয়ে তাৎক্ষণিকভাবে কোনো মন্তব্য করেনি। সরকারগুলোর উত্থাপিত উদ্বেগের সমাধানে xAI-এর পক্ষ থেকে আরও পদক্ষেপ না নেওয়া পর্যন্ত এই দেশগুলোতে গ্রোকের ভবিষ্যৎ অনিশ্চিত।