মালয়েশিয়া ও ইন্দোনেশিয়া ইলোন মাস্কের এক্স প্ল্যাটফর্ম দ্বারা তৈরি কৃত্রিম বুদ্ধিমত্তা চ্যাটবট গ্রোকের অ্যাক্সেস বন্ধ করে দিয়েছে, কারণ এর মাধ্যমে যৌনতাপূর্ণ ডিপফেক তৈরি হওয়ার আশঙ্কা রয়েছে। উভয় দেশের যোগাযোগ মন্ত্রণালয় সপ্তাহান্তে পৃথক বিবৃতিতে নিষেধাজ্ঞার ঘোষণা করেছে, যেখানে পর্নোগ্রাফিক এবং সম্মতিবিহীন ছবি তৈরি করতে এআই সরঞ্জামটির অপব্যবহারের সম্ভাবনা রয়েছে, বিশেষ করে নারী ও শিশুদের ক্ষেত্রে।

গ্রোক, যা ব্যবহারকারীদের ছবি তৈরি করতে দেয়, সেটি ব্যবহার করে নাকি বিদ্যমান ছবি সম্পাদনা করে ব্যক্তিদের আপত্তিকর বা আপোষমূলক পরিস্থিতিতে দেখানো হচ্ছে। মালয়েশিয়ার যোগাযোগ ও মাল্টিমিডিয়া কমিশন রবিবার জানিয়েছে যে তারা গ্রোকের "বারবার অপব্যবহার" রোধ করতে কঠোর ব্যবস্থা নেওয়ার জন্য বছরের শুরুতেই এক্সকে নোটিশ জারি করেছিল। এই দক্ষিণ-পূর্ব এশীয় দেশগুলোই প্রথম এই এআই সরঞ্জামটির উপর নিষেধাজ্ঞা আরোপ করল।

ডিপফেক, উন্নত এআই প্রযুক্তির একটি ফসল, যা বাস্তবসম্মত কিন্তু জাল ছবি, ভিডিও বা অডিও রেকর্ডিং তৈরি করতে ডিপ লার্নিং ব্যবহার করে। এই প্রযুক্তি উল্লেখযোগ্য নৈতিক উদ্বেগ তৈরি করে, বিশেষ করে সম্মতি, গোপনীয়তা এবং বিদ্বেষপূর্ণ ব্যবহারের সম্ভাবনা, যেমন ভুল তথ্য ছড়ানো বা মানহানিকর বিষয়বস্তু তৈরি করা। এআই-এর অতি-বাস্তববাদী জালিয়াতি তৈরির ক্ষমতা বাস্তবতা এবং কল্পনার মধ্যেকার সীমারেখা মুছে ফেলে, যা ব্যক্তি এবং সমাজের জন্য খাঁটি বিষয়বস্তু এবং কারসাজি করা মিডিয়ার মধ্যে পার্থক্য করতে চ্যালেঞ্জ তৈরি করে।

মালয়েশিয়া ও ইন্দোনেশিয়ার নিষেধাজ্ঞা এআই প্রযুক্তির সম্ভাব্য অপব্যবহার সম্পর্কে ক্রমবর্ধমান আন্তর্জাতিক উদ্বেগকে তুলে ধরে। যুক্তরাজ্যে, প্রযুক্তি সচিব গ্রোকের উপর অনুরূপ নিষেধাজ্ঞার জন্য সমর্থন জানিয়েছেন, যা মাস্কের কাছ থেকে সমালোচনার জন্ম দিয়েছে, যিনি সরকারের বাক স্বাধীনতা দমনের চেষ্টার অভিযোগ করেছেন। এই বিতর্ক ক্ষতি প্রতিরোধে এআই নিয়ন্ত্রণের প্রয়োজনীয়তা এবং মত প্রকাশের স্বাধীনতা রক্ষার আকাঙ্ক্ষার মধ্যেকার উত্তেজনাকে তুলে ধরে।

মালয়েশিয়া ও ইন্দোনেশিয়ার গৃহীত পদক্ষেপগুলি এআই-উত্পাদিত ডিপফেকগুলির সাথে সম্পর্কিত সম্ভাব্য ক্ষতি মোকাবেলায় একটি সক্রিয় দৃষ্টিভঙ্গিকে প্রতিফলিত করে। এই নিষেধাজ্ঞা অন্যান্য এআই ডেভেলপার এবং প্ল্যাটফর্মগুলির জন্য একটি সতর্কবার্তা, তাদের প্রযুক্তির অপব্যবহার রোধে সুরক্ষা ব্যবস্থা বাস্তবায়ন করার প্রয়োজনীয়তা সম্পর্কে। পরিস্থিতি এখনও পরিবর্তনশীল, এবং আশা করা হচ্ছে যে কৃত্রিম বুদ্ধিমত্তার দ্রুত বিকাশমান পরিস্থিতি মোকাবেলায় সরকারগুলোর মধ্যে আরও আলোচনা ও নিয়ন্ত্রক পদক্ষেপ ঘটবে।