অসম্মতিতে তৈরি যৌন উদ্দীপক ডিপফেক (deepfake) তৈরি হওয়ার উদ্বেগের কারণে ইন্দোনেশিয়া ও মালয়েশিয়ার কর্মকর্তারা xAI-এর চ্যাটবট, গ্রোকের (Grok) অ্যাক্সেস সাময়িকভাবে বন্ধ করে দিয়েছেন। প্রায়শই বাস্তব নারী ও অপ্রাপ্তবয়স্কদের চিত্রিত করে এবং কখনও কখনও সহিংস বিষয়বস্তুসহ, সামাজিক নেটওয়ার্ক X-এ ব্যবহারকারীর অনুরোধের ভিত্তিতে গ্রোক কর্তৃক তৈরি করা এআই (AI) দ্বারা তৈরি চিত্রের বিস্তার রোধে এই পদক্ষেপগুলি সবচেয়ে জোরালো সরকারি প্রতিক্রিয়াগুলোর মধ্যে অন্যতম। X এবং xAI উভয়ই একই কোম্পানির অংশ।

ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মিউতিয়া হাফিদ (Meutya Hafid) বলেছেন, সরকার সম্মতিবিহীন যৌন ডিপফেক তৈরিকে ডিজিটাল ক্ষেত্রে মানবাধিকার, মর্যাদা এবং নাগরিক সুরক্ষার গুরুতর লঙ্ঘন বলে মনে করে। শনিবার গার্ডিয়ান (Guardian) এবং অন্যান্য সংবাদ মাধ্যমকে তার এই বক্তব্য জানানো হয়েছে। ইন্দোনেশিয়ার মন্ত্রণালয় বিষয়টি নিয়ে আলোচনার জন্য X কর্মকর্তাদের তলব করেছে বলেও জানা গেছে। নিউ ইয়র্ক টাইমস জানিয়েছে, মালয়েশিয়ার সরকারও রবিবার একই ধরনের নিষেধাজ্ঞা ঘোষণা করেছে।

ডিপফেক ("ডিপ লার্নিং" এবং "ফেক"-এর সমন্বয়ে গঠিত) হলো কৃত্রিম মাধ্যম, যেখানে বিদ্যমান কোনো ছবি বা ভিডিওতে থাকা কোনো ব্যক্তির জায়গায় অন্য কারো প্রতিচ্ছবি বসানো হয়। এই প্রযুক্তি কৃত্রিম বুদ্ধিমত্তা, বিশেষ করে ডিপ লার্নিং কৌশল ব্যবহার করে অত্যন্ত বাস্তবসম্মত, তবুও জাল কন্টেন্ট তৈরি করে। ডিপফেক প্রযুক্তির সহজলভ্যতা এবং ক্রমবর্ধমান পরিশীলিততা উল্লেখযোগ্য নৈতিক ও আইনি উদ্বেগের জন্ম দিয়েছে, বিশেষ করে সম্মতি, গোপনীয়তা এবং মানহানিকর বা ক্ষতিকর কন্টেন্ট তৈরিতে এর অপব্যবহারের সম্ভাবনা তৈরি হয়েছে।

এআই (AI) দ্বারা তৈরি অশ্লীল কন্টেন্টের সমস্যা মোকাবেলায় অন্যান্য সরকারি পদক্ষেপের ধারাবাহিকতায় ইন্দোনেশিয়া ও মালয়েশিয়ার এই নিষেধাজ্ঞা জারি হলো। ভারতের আইটি (IT) মন্ত্রণালয় xAI-কে এ ধরনের উপাদান তৈরি করা থেকে গ্রোককে (Grok) আটকাতে ব্যবস্থা নেওয়ার নির্দেশ দিয়েছে। ইউরোপীয় কমিশনও গ্রোক সম্পর্কিত সমস্ত নথি ধরে রাখার জন্য xAI-কে অনুরোধ করেছে, যা সম্ভবত একটি আনুষ্ঠানিক তদন্তের পথ প্রশস্ত করবে।

এই সরকারি পদক্ষেপগুলোর শিল্পখাতে প্রভাব এখনো দেখার বিষয়, তবে এগুলো ক্ষতিকর বা অনৈতিক বিবেচিত এআই (AI) প্রযুক্তির বিকাশ এবং প্রয়োগের ক্ষেত্রে নিয়ন্ত্রক সংস্থাগুলোর ক্রমবর্ধমান হস্তক্ষেপের ইঙ্গিত দেয়। xAI-এর প্রধান চ্যাটবট গ্রোক (Grok) কথোপকথনের মাধ্যমে প্রশ্নের উত্তর দিতে এবং তথ্য সরবরাহ করার জন্য ডিজাইন করা হয়েছে। X-এর সাথে এর সংহতকরণ ব্যবহারকারীদের সরাসরি সোশ্যাল মিডিয়া প্ল্যাটফর্মের মধ্যে চ্যাটবটটি অ্যাক্সেস করতে দেয়। ইন্দোনেশিয়া ও মালয়েশিয়ার সাময়িক নিষেধাজ্ঞা সম্ভবত xAI-এর ব্যবহারকারীর সংখ্যাকে প্রভাবিত করবে এবং এআই (AI) চালিত প্ল্যাটফর্মগুলোর জন্য কন্টেন্ট নিরীক্ষণ নীতিমালার বিকাশে প্রভাব ফেলতে পারে।

বর্তমান পরিস্থিতিতে সরকারি কর্মকর্তা ও xAI প্রতিনিধিদের মধ্যে আলোচনা চলছে। পরবর্তী পদক্ষেপগুলোতে সম্ভবত অনুপযুক্ত কন্টেন্ট তৈরি হওয়া আটকাতে xAI কঠোর কন্টেন্ট ফিল্টার এবং নিরীক্ষণ প্রক্রিয়া বাস্তবায়ন করবে। ইন্দোনেশিয়া ও মালয়েশিয়ার সরকার সম্ভবত এই পদক্ষেপগুলোর কার্যকারিতার ওপর ভিত্তি করে তাদের নিষেধাজ্ঞাগুলো পুনর্বিবেচনা করবে।