ইন্দোনেশিয়ার কর্মকর্তারা শনিবার জানিয়েছেন যে তারা xAI-এর চ্যাটবট Grok-এর অ্যাক্সেস সাময়িকভাবে বন্ধ করে দিচ্ছেন, কারণ তাদের আশঙ্কা, এর মাধ্যমে সম্মতি ব্যতিরেকে যৌন উদ্দীপক ডিপফেক তৈরি করা হতে পারে। AI-এর মাধ্যমে তৈরি বাস্তব নারী ও অপ্রাপ্তবয়স্কদের ছবি, যেখানে তাদের ওপর হামলা ও নির্যাতনের দৃশ্যও রয়েছে, সামাজিক মাধ্যম X-এ ব্যবহারকারীর প্রম্পটের (prompt) মাধ্যমে Grok তৈরি করছে—এমন অভিযোগের ভিত্তিতে এই পদক্ষেপ নেওয়া হয়েছে। X এবং xAI উভয়ের মালিকানাই একই সংস্থার হাতে। এই ঘটনা AI-এর মাধ্যমে তৈরি হওয়া ছবির বিরুদ্ধে কঠোরতম সরকারি পদক্ষেপগুলির মধ্যে অন্যতম।

গার্ডিয়ান এবং অন্যান্য সংবাদমাধ্যমে দেওয়া এক বিবৃতিতে ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মেউতিয়া হাফিদ জানান, সরকার "সম্মতি ব্যতিরেকে তৈরি যৌন উদ্দীপক ডিপফেককে মানবাধিকার, মর্যাদা এবং ডিজিটাল ক্ষেত্রে নাগরিকদের নিরাপত্তার গুরুতর লঙ্ঘন হিসেবে বিবেচনা করে।" মন্ত্রণালয় X-এর কর্মকর্তাদের এই বিষয়ে আলোচনার জন্য ডেকে পাঠিয়েছে বলেও খবর।

ডিপফেক ("ডিপ লার্নিং" এবং "ফেক" শব্দ দুটির মিশ্রণ) হল সিনথেটিক মিডিয়া, যেখানে কোনো বিদ্যমান ছবি বা ভিডিওতে থাকা কোনো ব্যক্তির জায়গায় অন্য কোনো ব্যক্তির প্রতিচ্ছবি বসানো হয়। কৃত্রিম বুদ্ধিমত্তা দ্বারা চালিত এই প্রযুক্তি বাস্তবসম্মত কিন্তু জাল কন্টেন্ট তৈরি করতে ব্যবহার করা যেতে পারে, যা উল্লেখযোগ্য নৈতিক ও আইনি উদ্বেগের জন্ম দেয়, বিশেষ করে যখন এটি সম্মতি ব্যতিরেকে পর্নোগ্রাফি তৈরি করতে বা ভুল তথ্য ছড়াতে ব্যবহৃত হয়।

ইন্দোনেশিয়ার এই পদক্ষেপ অন্যান্য সরকারি সংস্থাগুলির অনুরূপ পদক্ষেপেরই অনুসরণ। ভারতের তথ্যপ্রযুক্তি মন্ত্রণালয় xAI-কে Grok-এর মাধ্যমে অশ্লীল কন্টেন্ট তৈরি হওয়া বন্ধ করার জন্য ব্যবস্থা নিতে নির্দেশ দিয়েছে। ইউরোপীয় কমিশনও কোম্পানিটিকে Grok সম্পর্কিত সমস্ত নথি ধরে রাখতে বলেছে, যা একটি আনুষ্ঠানিক তদন্ত শুরুর ইঙ্গিত হতে পারে। যুক্তরাজ্যে, যোগাযোগ নিয়ন্ত্রক সংস্থা Ofcom-ও এই বিষয়টি নিয়ে কাজ করছে।

Grok হল xAI দ্বারা তৈরি একটি AI চ্যাটবট। xAI হল ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা বিষয়ক কোম্পানি। এটি অন্যান্য বৃহৎ ভাষা মডেল যেমন ChatGPT এবং Google-এর Gemini-এর মতোই প্রশ্নের উত্তর দিতে এবং কথোপকথন চালাতে সক্ষম করে তোলার জন্য ডিজাইন করা হয়েছে। তবে, এটির অপব্যবহারের সম্ভাবনা নিয়ে উদ্বেগ প্রকাশ করা হয়েছে, বিশেষ করে ক্ষতিকর বা আপত্তিকর কন্টেন্ট তৈরির ক্ষেত্রে।

ইন্দোনেশিয়ায় Grok-এর ওপর নিষেধাজ্ঞা প্রযুক্তি সংস্থা এবং নিয়ন্ত্রক সংস্থাগুলি AI-এর মাধ্যমে তৈরি কন্টেন্টের নৈতিক প্রভাব মোকাবিলা করতে গিয়ে যে ক্রমবর্ধমান চ্যালেঞ্জের সম্মুখীন হচ্ছে, তা তুলে ধরে। এই ঘটনা AI প্রযুক্তির অপব্যবহার রোধ করতে এবং ব্যক্তিদের ক্ষতি থেকে বাঁচাতে শক্তিশালী সুরক্ষা এবং কন্টেন্ট নিরীক্ষণ নীতির প্রয়োজনীয়তার ওপর জোর দেয়। ইন্দোনেশিয়া সরকারের এই পদক্ষেপ একই ধরনের সমস্যা মোকাবিলা করা অন্যান্য দেশের জন্য একটি নজির স্থাপন করতে পারে, যা AI চ্যাটবট এবং অন্যান্য জেনারেটিভ AI সরঞ্জামগুলির ভবিষ্যৎ উন্নয়ন ও ব্যবহারকে প্রভাবিত করতে পারে। ইন্দোনেশিয়ার কর্মকর্তা এবং X প্রতিনিধিদের মধ্যে আলোচনার ফলাফল এখনও দেখার বিষয়, তবে আশা করা যায় এটি এই অঞ্চলে Grok-এর ভবিষ্যৎ প্রাপ্যতা এবং কার্যকারিতাকে প্রভাবিত করবে।