ইন্দোনেশিয়ার কর্মকর্তারা শনিবার জানিয়েছেন যে তারা xAI-এর চ্যাটবট, Grok-এর অ্যাক্সেস সাময়িকভাবে বন্ধ করে দিচ্ছেন, কারণ AI দ্বারা তৈরি হওয়া সম্মতিবিহীন, যৌনতাপূর্ণ ডিপফেক-এর বিস্তার বাড়ছে। এই পদক্ষেপটি AI-এর মাধ্যমে তৈরি হওয়া বাস্তব নারী ও নাবালিকাদের ছবি, যার মধ্যে কোনো কোনো ক্ষেত্রে X সোশ্যাল নেটওয়ার্কে ব্যবহারকারীর অনুরোধের ভিত্তিতে Grok কর্তৃক উৎপাদিত হওয়া আক্রমণ ও নির্যাতনের চিত্রও রয়েছে, সেই ক্রমবর্ধমান সমস্যার বিরুদ্ধে সবচেয়ে কঠোর সরকারি পদক্ষেপগুলির মধ্যে অন্যতম। X এবং xAI উভয়ের মালিকানাই একই সংস্থার হাতে।

গার্ডিয়ান এবং অন্যান্য প্রকাশনার সাথে শেয়ার করা একটি বিবৃতি অনুসারে, ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মিউতিয়া হাফিদ বলেছেন, "সরকার সম্মতিবিহীন যৌন ডিপফেক তৈরির অনুশীলনকে ডিজিটাল স্পেসে মানবাধিকার, মর্যাদা এবং নাগরিকদের নিরাপত্তার গুরুতর লঙ্ঘন হিসেবে দেখে।" জানা গেছে, মন্ত্রণালয় এই বিষয়ে আলোচনার জন্য X কর্মকর্তাদের ডেকে পাঠিয়েছে।

ডিপফেক ("ডিপ লার্নিং" এবং "ফেক" শব্দ দুটির মিশ্রণ) হল সিনথেটিক মিডিয়া যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারও চেহারার সাথে প্রতিস্থাপন করা হয়। কৃত্রিম বুদ্ধিমত্তা দ্বারা চালিত এই প্রযুক্তি বাস্তবসম্মত কিন্তু জাল কন্টেন্ট তৈরি করতে ব্যবহার করা যেতে পারে, যা ভুল তথ্য, গোপনীয়তা লঙ্ঘন এবং সম্মানহানির বিষয়ে উদ্বেগ সৃষ্টি করে। Grok-এর মতো AI সরঞ্জামগুলির সহজলভ্যতা অপব্যবহারের সম্ভাবনাকে বাড়িয়ে দিয়েছে, যার ফলে সম্মতিবিহীন ডিপফেকের সংখ্যা বৃদ্ধি পেয়েছে।

xAI দ্বারা তৈরি Grok হল একটি বৃহৎ ভাষা মডেল (LLM) যা প্রশ্নের উত্তর দিতে এবং টেক্সট তৈরি করতে ডিজাইন করা হয়েছে। LLM-গুলিকে বিপুল পরিমাণ ডেটার উপর প্রশিক্ষণ দেওয়া হয়, যা তাদের বিস্তৃত প্রম্পট বুঝতে এবং প্রতিক্রিয়া জানাতে সক্ষম করে। তবে, বাস্তবসম্মত কন্টেন্ট তৈরি করার ক্ষমতা ঝুঁকির কারণ হতে পারে, বিশেষ করে যখন ক্ষতিকারক বা প্রতারণামূলক উপাদান তৈরি করতে এটি ব্যবহার করা হয়।

ইন্দোনেशिया সরকারের এই সিদ্ধান্ত অন্যান্য দেশের অনুরূপ পদক্ষেপের ধারাবাহিকতায় নেওয়া হয়েছে। ভারতের আইটি মন্ত্রণালয় xAI-কে অশ্লীল কন্টেন্ট তৈরি করা থেকে Grok-কে আটকাতে নির্দেশ দিয়েছে। ইউরোপীয় কমিশন কোম্পানিটিকে Grok সম্পর্কিত সমস্ত নথি ধরে রাখতে অনুরোধ করেছে, যা সম্ভবত আসন্ন তদন্তের ইঙ্গিত দেয়। যুক্তরাজ্যে, যোগাযোগ নিয়ন্ত্রক সংস্থা Ofcom জানিয়েছে যে তারা পরিস্থিতি পর্যবেক্ষণ করছে। এই আন্তর্জাতিক প্রতিক্রিয়াগুলি AI-চালিত সরঞ্জামগুলির নৈতিক প্রভাব এবং সম্ভাব্য অপব্যবহার সম্পর্কে ক্রমবর্ধমান উদ্বেগের ইঙ্গিত দেয়।

ইন্দোনেশিয়ায় Grok-এর অ্যাক্সেস বন্ধ করে দেওয়া AI-উত্পাদিত কন্টেন্ট নিয়ন্ত্রণ করার চ্যালেঞ্জ এবং অপব্যবহার রোধে ডেভেলপারদের সুরক্ষামূলক ব্যবস্থা বাস্তবায়নের প্রয়োজনীয়তার ওপর আলোকপাত করে। এই ঘটনাটি AI প্রযুক্তি সম্পর্কিত নৈতিক ও আইনি সমস্যাগুলি মোকাবিলা করার ক্ষেত্রে আন্তর্জাতিক সহযোগিতার গুরুত্বকেও তুলে ধরে। ইন্দোনেশিয়ার কর্মকর্তা এবং X প্রতিনিধিদের মধ্যে আলোচনার ফলাফল, সেইসাথে xAI কর্তৃক গৃহীত যেকোনো পরবর্তী পদক্ষেপ দেখার বিষয়।