ইন্দোনেশিয়া এবং মালয়েশিয়ার কর্মকর্তারা xAI-এর চ্যাটবট Grok-এর মাধ্যমে সম্মতিবিহীন যৌনতাপূর্ণ ডিপফেক তৈরির প্রতিক্রিয়ায় এটির অ্যাক্সেস সাময়িকভাবে বন্ধ করে দিয়েছে। AI-এর মাধ্যমে তৈরি ছবির বিস্তার, যেখানে প্রায়শই বাস্তব নারী ও অপ্রাপ্তবয়স্কদের চিত্রিত করা হয় এবং মাঝে মাঝে হিংসাত্মক বিষয়বস্তুও থাকে, যা সামাজিক নেটওয়ার্ক X-এ ব্যবহারকারীদের অনুরোধে Grok তৈরি করে, তার বিরুদ্ধে এই পদক্ষেপগুলি সবচেয়ে জোরালো সরকারি প্রতিক্রিয়া। X এবং xAI উভয়ই একই কোম্পানির অংশ।

ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মেউটিয়া হাফিদ শনিবার বলেছেন, "সরকার সম্মতিবিহীন যৌন ডিপফেক তৈরিকে মানবাধিকার, মর্যাদা এবং ডিজিটাল ক্ষেত্রে নাগরিকদের নিরাপত্তার গুরুতর লঙ্ঘন হিসেবে দেখে," গার্ডিয়ান এবং অন্যান্য প্রকাশনার সাথে শেয়ার করা একটি বিবৃতিতে তিনি একথা জানান। ইন্দোনেশিয়ার মন্ত্রণালয় বিষয়টি নিয়ে আলোচনার জন্য X কর্মকর্তাদের তলব করেছে বলেও জানা গেছে। নিউ ইয়র্ক টাইমস জানিয়েছে, মালয়েশিয়ার সরকার রবিবার একই ধরনের নিষেধাজ্ঞা ঘোষণা করেছে।

ডিপফেক ("ডিপ লার্নিং" এবং "ফেক"-এর মিশ্রণ) হল কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে তৈরি করা সিনথেটিক মিডিয়া, যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারো প্রতিচ্ছবি দিয়ে প্রতিস্থাপন করা হয়। এই প্রযুক্তি অত্যাধুনিক মেশিন লার্নিং অ্যালগরিদমের উপর নির্ভর করে, বিশেষ করে ডিপ নিউরাল নেটওয়ার্ক, যা ভিজ্যুয়াল এবং অডিও ডেটা বিশ্লেষণ ও সংশ্লেষণ করে অত্যন্ত বাস্তবসম্মত কিন্তু জাল বিষয়বস্তু তৈরি করে। বর্তমানে ডিপফেক তৈরি এবং প্রচারের সহজলভ্যতা উল্লেখযোগ্য নৈতিক ও আইনি উদ্বেগের জন্ম দিয়েছে, বিশেষ করে সম্মতি, গোপনীয়তা এবং হয়রানি ও ভুল তথ্য ছড়ানোর প্রচারে এর অপব্যবহারের সম্ভাবনা নিয়ে।

ইন্দোনেশিয়া ও মালয়েশিয়ার এই নিষেধাজ্ঞা Grok-এর আউটপুটের প্রতিক্রিয়ায় নেওয়া অন্যান্য সরকারি পদক্ষেপের ধারাবাহিকতা। ভারতের আইটি মন্ত্রণালয় xAI-কে অশ্লীল বিষয়বস্তু তৈরি করা থেকে Grok-কে আটকাতে ব্যবস্থা নেওয়ার নির্দেশ দিয়েছে। ইউরোপীয় কমিশন কোম্পানিটিকে Grok সম্পর্কিত সমস্ত নথি ধরে রাখার জন্য একটি আদেশ জারি করেছে, যা একটি আনুষ্ঠানিক তদন্তের মঞ্চ তৈরি করতে পারে।

এই সরকারি পদক্ষেপগুলির শিল্পখাতে প্রভাব এখনো দেখার বিষয়। এই পদক্ষেপগুলি AI ডেভেলপাররা তাদের প্রযুক্তির সম্ভাব্য অপব্যবহারের বিষয়ে ক্রমবর্ধমান যে কঠোর নজরদারির মধ্যে রয়েছেন, তা তুলে ধরে। xAI এখনও পর্যন্ত নিষেধাজ্ঞা বা ইন্দোনেশিয়া ও মালয়েশিয়ার সরকার কর্তৃক উত্থাপিত উদ্বেগের সমাধানে তারা কী পদক্ষেপ নিতে চলেছে, সে সম্পর্কে কোনো আনুষ্ঠানিক বিবৃতি দেয়নি। পরিস্থিতি বর্তমানে চলমান, এবং সরকারি কর্মকর্তা ও xAI-এর মধ্যে আলোচনা অব্যাহত থাকায় আরও অগ্রগতি প্রত্যাশিত।