ইন্দোনেশিয়া ও মালয়েশিয়ার কর্মকর্তারা xAI-এর চ্যাটবট Grok-এর অ্যাক্সেস সাময়িকভাবে বন্ধ করে দিয়েছে, কারণ তারা সম্মতি ব্যতিরেকে যৌন উদ্দীপক ডিপফেক তৈরির বিষয়ে উদ্বেগ প্রকাশ করেছে। AI-এর মাধ্যমে তৈরি চিত্রের বিস্তার, যেখানে প্রায়শই বাস্তব নারী ও অপ্রাপ্তবয়স্কদের চিত্রিত করা হয় এবং মাঝে মাঝে সহিংসতাও থাকে, যা Grok ব্যবহারকারীর অনুরোধের ভিত্তিতে সামাজিক নেটওয়ার্ক X-এ তৈরি করে, তার প্রতিক্রিয়ায় এই পদক্ষেপগুলি সবচেয়ে কঠোর সরকারি প্রতিক্রিয়া। X এবং xAI উভয়ই একই কোম্পানির অংশ।

ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মেউতিয়া হাফিদ বলেছেন, সরকার সম্মতি ব্যতিরেকে তৈরি যৌন উদ্দীপক ডিপফেককে "ডিজিটাল স্পেসে মানবাধিকার, মর্যাদা এবং নাগরিকদের নিরাপত্তার গুরুতর লঙ্ঘন" হিসেবে দেখে। শনিবার গার্ডিয়ানের সাথে শেয়ার করা এক বিবৃতিতে তিনি এই কথা বলেন। ইন্দোনেশিয়ার মন্ত্রণালয় X কর্মকর্তাদের এই বিষয়ে আলোচনার জন্য ডেকে পাঠিয়েছে বলেও জানা গেছে। নিউ ইয়র্ক টাইমস জানিয়েছে, মালয়েশিয়ার সরকারও রবিবার একই ধরনের নিষেধাজ্ঞা ঘোষণা করেছে।

ডিপফেক ("ডিপ লার্নিং" এবং "ফেক"-এর মিশ্রণ) হল সিনথেটিক মিডিয়া যেখানে কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তির জায়গায় অন্য কারও প্রতিচ্ছবি বসানো হয়। এই প্রযুক্তি অত্যাধুনিক অ্যালগরিদমের উপর নির্ভর করে, যা প্রায়শই নিউরাল নেটওয়ার্কের উপর ভিত্তি করে তৈরি, যা মুখের অভিব্যক্তি, শারীরিক নড়াচড়া এবং এমনকি কণ্ঠের ধরণ বিশ্লেষণ ও প্রতিলিপি তৈরি করে। বিনোদন এবং শিক্ষায় ডিপফেকের বৈধ ব্যবহার থাকলেও, এর অপব্যবহারের সম্ভাবনা, বিশেষ করে বিশ্বাসযোগ্য কিন্তু মিথ্যা এবং ক্ষতিকর কনটেন্ট তৈরির ক্ষেত্রে, উল্লেখযোগ্য নৈতিক ও আইনি উদ্বেগের জন্ম দিয়েছে।

ইন্দোনেশিয়া ও মালয়েশিয়ার এই নিষেধাজ্ঞা Grok-এর আউটপুটের প্রতিক্রিয়ায় নেওয়া অন্যান্য সরকারি পদক্ষেপের ধারাবাহিকতা। এর আগে সপ্তাহে, ভারতের আইটি মন্ত্রণালয় xAI-কে অশ্লীল কনটেন্ট তৈরি করা থেকে Grok-কে আটকাতে ব্যবস্থা নেওয়ার নির্দেশ দিয়েছিল। ইউরোপীয় কমিশনও কোম্পানিটিকে Grok সম্পর্কিত সমস্ত নথি ধরে রাখার জন্য একটি নির্দেশ জারি করেছে, যা একটি আনুষ্ঠানিক তদন্তের মঞ্চ তৈরি করতে পারে।

এই নিষেধাজ্ঞাগুলির শিল্পক্ষেত্রে উল্লেখযোগ্য প্রভাব পড়তে পারে, যা সম্ভবত AI-চালিত চ্যাটবট এবং জেনারেটিভ AI প্ল্যাটফর্মগুলির উপর আরও বেশি নজরদারি ও নিয়ন্ত্রণের দিকে পরিচালিত করবে। xAI-এর Grok, যা একটি আরও অপ্রচলিত এবং ফিল্টারবিহীন AI সহকারী হিসাবে পরিচিত, বর্তমানে দক্ষিণ-পূর্ব এশিয়ার মূল বাজারগুলিতে চ্যালেঞ্জের সম্মুখীন হচ্ছে। Grok-এর পণ্য বিবরণে X প্ল্যাটফর্মের সাথে এর একত্রীকরণের বিষয়টি অন্তর্ভুক্ত, যা ব্যবহারকারীদের সরাসরি সামাজিক নেটওয়ার্কের মধ্যে চ্যাটবটটি অ্যাক্সেস করতে দেয়। এই একত্রীকরণ, যদিও ব্যবহারকারীর সম্পৃক্ততা বাড়ানোর উদ্দেশ্যে করা হয়েছে, বিতর্কিত কনটেন্টের বিস্তারকেও সহজ করেছে।

বর্তমান অবস্থা হল ইন্দোনেশিয়া ও মালয়েশিয়া উভয় দেশেই Grok অবরুদ্ধ রয়েছে। পরবর্তী পদক্ষেপ সম্ভবত সরকারি কর্মকর্তা এবং xAI প্রতিনিধিদের মধ্যে উদ্বেগ নিরসনের জন্য আলোচনা এবং সম্ভবত কনটেন্ট মডারেশন ও ব্যবহারকারীর নিরাপত্তার জন্য নির্দেশিকা প্রতিষ্ঠা করা। এই আলোচনার ফলাফল নির্ধারণ করবে Grok এই দেশগুলিতে তার কার্যক্রম পুনরায় শুরু করতে পারবে কিনা এবং এটি বিশ্বব্যাপী AI প্রযুক্তির নিয়ন্ত্রক পরিস্থিতিকে প্রভাবিত করতে পারে।