মালয়েশিয়া ও ইন্দোনেশিয়া এলন মাস্কের X প্ল্যাটফর্ম দ্বারা তৈরি কৃত্রিম বুদ্ধিমত্তা চ্যাটবট Grok-এর অ্যাক্সেস বন্ধ করে দিয়েছে, কারণ এর মাধ্যমে যৌনতাপূর্ণ ডিপফেক তৈরি হওয়ার আশঙ্কা রয়েছে। সংশ্লিষ্ট দেশের যোগাযোগ মন্ত্রণালয় সপ্তাহান্তে এই সিদ্ধান্তের কথা জানায়। কোনো দেশ এই প্রথম কোনো এআই সরঞ্জাম নিষিদ্ধ করলো।

Grok, যা ব্যবহারকারীদের ছবি তৈরি করতে দেয়, সেটি ব্যবহার করে বাস্তব ব্যক্তিদের আপত্তিকর বা সম্মতিবিহীন পরিস্থিতিতে উপস্থাপন করে ডিপফেক তৈরি করা হচ্ছে বলে খবর পাওয়া গেছে। মালয়েশিয়ার যোগাযোগ ও মাল্টিমিডিয়া কমিশন রবিবার জানিয়েছে, তারা এই বছরের শুরুতে X-কে Grok-এর "বারবার অপব্যবহার" রোধ করার জন্য কঠোর ব্যবস্থা নেওয়ার অনুরোধ জানিয়েছিল। মালয়েশিয়া ও ইন্দোনেশিয়া উভয়ই আশঙ্কা প্রকাশ করেছে যে এই এআইকে পর্নোগ্রাফিক ছবি তৈরি করতে ব্যবহার করা হতে পারে, যেখানে নারী ও শিশুরাও অন্তর্ভুক্ত থাকতে পারে।

ডিপফেক, উন্নত এআই প্রযুক্তির একটি ফসল, অত্যাধুনিক অ্যালগরিদম ব্যবহার করে ভিজ্যুয়াল এবং অডিও কন্টেন্টকে এমনভাবে ম্যানিপুলেট বা তৈরি করে যা প্রায়শই বাস্তবতা এবং কল্পনার মধ্যেকার সীমারেখা মুছে ফেলে। Grok-কে চালিত করা জেনারেটিভ এআই মডেলগুলির মতো, এই মডেলগুলি ছবি এবং টেক্সটের বিশাল ডেটাসেট থেকে শেখে, যা তাদের নতুন কন্টেন্ট তৈরি করতে সক্ষম করে এবং যা তারা যে ডেটার উপর প্রশিক্ষিত, তার সাথে ঘনিষ্ঠভাবে সাদৃশ্যপূর্ণ। এই ক্ষমতা সৃজনশীল সম্ভাবনা তৈরি করার পাশাপাশি অপব্যবহারের ক্ষেত্রেও নৈতিক উদ্বেগ সৃষ্টি করে, বিশেষ করে সম্মতিবিহীন পর্নোগ্রাফি এবং ভুল তথ্য তৈরির ক্ষেত্রে।

মালয়েশিয়া ও ইন্দোনেশিয়ার এই নিষেধাজ্ঞা দ্রুত অগ্রসরমান এআই প্রযুক্তি দ্বারা সৃষ্ট ক্রমবর্ধমান নিয়ন্ত্রক চ্যালেঞ্জগুলোকে তুলে ধরে। বিশ্বজুড়ে সরকারগুলো উদ্ভাবনের সঙ্গে নাগরিকদের সম্ভাব্য ক্ষতি থেকে বাঁচানোর প্রয়োজনীয়তার মধ্যে ভারসাম্য রক্ষার জন্য সংগ্রাম করছে। এই ঘটনা এআই ডেভেলপারদের তাদের সরঞ্জামের অপব্যবহার রোধে সুরক্ষামূলক ব্যবস্থা বাস্তবায়নের দায়িত্ব নিয়েও প্রশ্ন তুলেছে।

Grok-কে নিষিদ্ধ করার সিদ্ধান্ত বাকস্বাধীনতা এবং সেন্সরশিপ নিয়ে বিতর্ক সৃষ্টি করেছে। যুক্তরাজ্যে, প্রযুক্তি বিষয়ক সেক্রেটারি মিশেল ডোনেলান অনুরূপ নিষেধাজ্ঞার পক্ষে সমর্থন জানিয়েছেন, যা এলন মাস্কের কাছ থেকে সমালোচনার জন্ম দিয়েছে। মাস্ক সরকারকে বাকস্বাধীনতা দমনের চেষ্টা করার অভিযোগ করেছেন। এই বিতর্ক প্রযুক্তিগত অগ্রগতি, নৈতিক বিবেচনা এবং সামাজিক মূল্যবোধের মধ্যে জটিল সম্পর্ককে তুলে ধরে।

মালয়েশিয়া ও ইন্দোনেশিয়ায় Grok-এর বর্তমান অবস্থা হলো এর অ্যাক্সেস বন্ধ করে দেওয়া হয়েছে। পরবর্তী পদক্ষেপ সম্ভবত X এবং সংশ্লিষ্ট সরকারগুলোর মধ্যে উত্থাপিত উদ্বেগগুলো সমাধান এবং ক্ষতিকারক ডিপফেক তৈরি রোধে ব্যবস্থা বাস্তবায়নের বিষয়ে আলোচনা হতে পারে। এই ঘটনা অন্যান্য দেশেও এআই প্রযুক্তির উপর আরও বেশি নিয়ন্ত্রক পদক্ষেপ নিতে উৎসাহিত করতে পারে।