ইন্দোনেশিয়া ও মালয়েশিয়ার কর্মকর্তারা xAI-এর চ্যাটবট, Grok-এর প্রতি সাময়িকভাবে প্রবেশাধিকার বন্ধ করে দিয়েছে, কারণ এই এআই ব্যবহার করে সম্মতি ব্যতিরেকে যৌন উদ্দীপক ডিপফেক তৈরি করা হচ্ছিল। এআই-এর মাধ্যমে তৈরি হওয়া ছবি, যেখানে প্রায়শই আসল নারী ও অপ্রাপ্তবয়স্কদের দেখা যায় এবং মাঝে মাঝে সহিংসতার দৃশ্যও থাকে, তা ব্যবহারকারীরা Grok-এর মাধ্যমে সামাজিক মাধ্যম X-এ পোস্ট করছিল। এর প্রতিক্রিয়ায় এই পদক্ষেপগুলো সরকার কর্তৃক সবচেয়ে জোরালো প্রতিবাদ। X এবং xAI একই কোম্পানির অংশ।

ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মেউতিয়া হাফিদ জানান, সরকার সম্মতি ব্যতিরেকে তৈরি যৌন উদ্দীপক ডিপফেক তৈরি ও বিতরণকে ডিজিটাল ক্ষেত্রে মানবাধিকার, মর্যাদা এবং নাগরিকদের নিরাপত্তার গুরুতর লঙ্ঘন হিসেবে বিবেচনা করে। হাফিদের এই বিবৃতিটি শনিবার গার্ডিয়ানের পাশাপাশি অন্যান্য সংবাদ মাধ্যমেও প্রকাশ করা হয়েছে। ইন্দোনেশিয়ার মন্ত্রক এই বিষয়ে আলোচনার জন্য X কর্মকর্তাদের তলব করেছে বলেও খবর পাওয়া গেছে। নিউ ইয়র্ক টাইমস জানিয়েছে, মালয়েশিয়ার সরকারও রবিবার একই ধরনের নিষেধাজ্ঞা ঘোষণা করেছে।

ডিপফেক, যা প্রযুক্তিগতভাবে সিনথেটিক মিডিয়া নামে পরিচিত, কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে, বিশেষ করে ডিপ লার্নিং কৌশল অবলম্বন করে বাস্তবসম্মত কিন্তু জাল ছবি, ভিডিও বা অডিও রেকর্ডিং তৈরি করে। এক্ষেত্রে, ব্যবহারকারীরা Grok-কে প্ররোচিত করে সম্মতি ছাড়াই ব্যক্তিদের বৈশিষ্ট্যযুক্ত সুস্পষ্ট এবং শোষণমূলক সামগ্রী তৈরি করতে সক্ষম হয়েছিল। এর ফলে তৈরি হওয়া ছবিগুলো X-এ শেয়ার করা হয়েছিল, যা ক্ষতির মাত্রা বাড়িয়ে দিয়েছে।

ইন্দোনেশিয়া ও মালয়েশিয়ার এই নিষেধাজ্ঞা এই সমস্যাটির প্রতিক্রিয়ায় নেওয়া অন্যান্য সরকারি পদক্ষেপেরই ধারাবাহিকতা। ভারতের আইটি মন্ত্রক xAI-কে অশ্লীল সামগ্রী তৈরি করা থেকে Grok-কে আটকাতে ব্যবস্থা নেওয়ার নির্দেশ দিয়েছে। ইউরোপীয় কমিশনও Grok সম্পর্কিত সমস্ত নথি ধরে রাখার জন্য কোম্পানিকে নির্দেশ দিয়েছে, যা সম্ভবত এআই-এর ক্ষমতা এবং সুরক্ষার বিষয়ে একটি আনুষ্ঠানিক তদন্তের পথ প্রশস্ত করবে।

এই নিষেধাজ্ঞার কারণে শিল্পক্ষেত্রে বড় প্রভাব পড়তে পারে। এটি এআই প্রযুক্তির অপব্যবহার এবং ক্ষতির সম্ভাবনা সম্পর্কে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে। ইন্দোনেশিয়া ও মালয়েশিয়ার নেওয়া পদক্ষেপগুলি অন্যান্য দেশকেও অনুরূপ ব্যবস্থা বিবেচনা করতে উৎসাহিত করতে পারে, যা সম্ভবত এআই-চালিত প্ল্যাটফর্মগুলির উপর আরও বেশি নিয়ন্ত্রণ এবং বিষয়বস্তু নিরীক্ষণ ও ব্যবহারকারীর নিরাপত্তার উপর আরও বেশি জোর দেওয়ার দিকে পরিচালিত করবে। এই ঘটনাটি এআই ডেভেলপারদের তাদের প্রযুক্তির অপব্যবহার রোধে যেসব চ্যালেঞ্জের মুখোমুখি হতে হয়, বিশেষ করে Grok-এর মতো জেনারেটিভ এআই মডেলের ক্ষেত্রে, যা ব্যবহারকারীর বিভিন্ন জিজ্ঞাসার উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে, সেগুলোর উপরও আলোকপাত করে। নিষেধাজ্ঞাগুলো বর্তমানে বহাল আছে এবং সরকারি কর্মকর্তা ও X প্রতিনিধিদের মধ্যে আলোচনা অব্যাহত থাকায় আরও অগ্রগতি আশা করা যাচ্ছে।