ইন্দোনেশিয়ার কর্মকর্তারা শনিবার জানিয়েছেন যে তারা xAI-এর চ্যাটবট Grok-এর অ্যাক্সেস সাময়িকভাবে বন্ধ করে দিচ্ছেন, কারণ সম্মতিবিহীন, যৌনতাপূর্ণ ডিপফেক তৈরির বিষয়ে উদ্বেগ রয়েছে। এই পদক্ষেপটি এআই-উত্পাদিত চিত্রের বিস্তার মোকাবেলায় নেওয়া সবচেয়ে নির্ণায়ক সরকারী পদক্ষেপগুলির মধ্যে একটি, যেখানে প্রায়শই বাস্তব নারী এবং অপ্রাপ্তবয়স্কদের যৌনতাপূর্ণ এবং আপত্তিজনক পরিস্থিতিতে চিত্রিত করা হয়, যা ব্যবহারকারীরা সামাজিক নেটওয়ার্ক X-এ Grok-এর মাধ্যমে তৈরি করতে সক্ষম হয়েছে। X এবং xAI উভয়ই একই মালিকানাধীন।

ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মেউট্যা হাফিদ বলেছেন, "সরকার সম্মতিবিহীন যৌন ডিপফেক তৈরির অনুশীলনকে মানবাধিকার, মর্যাদা এবং ডিজিটাল স্থানে নাগরিকদের নিরাপত্তার গুরুতর লঙ্ঘন হিসাবে দেখে," গার্ডিয়ান এবং অন্যান্য প্রকাশনার সাথে শেয়ার করা একটি বিবৃতিতে তিনি একথা জানান। মন্ত্রণালয় বিষয়টি নিয়ে আলোচনার জন্য X কর্মকর্তাদের তলব করেছে বলেও জানা গেছে।

এই প্রেক্ষাপটে, ডিপফেক বলতে এআই-উত্পাদিত মিডিয়াকে বোঝায়, সাধারণত ছবি বা ভিডিও, যা বিশ্বাসযোগ্যভাবে এমন ব্যক্তিদের চিত্রিত করে যারা এমন কিছু করছেন বা বলছেন যা তারা কখনও করেননি। xAI-এর চ্যাটবট Grok, বৃহৎ ভাষা মডেল (LLM) ব্যবহার করে টেক্সট এবং কিছু ক্ষেত্রে ব্যবহারকারীর প্রম্পটের উপর ভিত্তি করে ছবি তৈরি করে। উদ্বেগ দেখা দেয় যখন এই LLMগুলি বাস্তবসম্মত কিন্তু জাল যৌন সামগ্রী তৈরি করতে ব্যবহৃত হয়, যেখানে চিত্রিত ব্যক্তিদের কোনো সম্মতি থাকে না।

এই ঘটনাটি এআই-উত্পাদিত সামগ্রী নিয়ন্ত্রণ এবং শক্তিশালী জেনারেটিভ এআই সরঞ্জামগুলির অপব্যবহারের ক্রমবর্ধমান চ্যালেঞ্জকে তুলে ধরে। শিল্পের উপর এর প্রভাব উল্লেখযোগ্য হতে পারে, সম্ভাব্যভাবে কঠোর বিধি-নিষেধ এবং এআই সংস্থাগুলির সামগ্রী নিরীক্ষণ নীতির উপর আরও বেশি নজরদারির দিকে পরিচালিত করতে পারে।

অন্যান্য সরকারি সংস্থাও ব্যবস্থা নিয়েছে। ভারতের আইটি মন্ত্রণালয় xAI-কে অশ্লীল সামগ্রী তৈরি করা থেকে Grok-কে আটকাতে নির্দেশ দিয়েছে। ইউরোপীয় কমিশন কোম্পানিটিকে Grok সম্পর্কিত সমস্ত নথি ধরে রাখতে অনুরোধ করেছে, যা একটি আনুষ্ঠানিক তদন্তের মঞ্চ তৈরি করতে পারে। যুক্তরাজ্যে, যোগাযোগ নিয়ন্ত্রক সংস্থা Ofcom এই বিষয়ে মন্তব্য করেছে।

ইন্দোনেশিয়ায় Grok-এর অ্যাক্সেস বন্ধ করা সাময়িক, ইন্দোনেশিয়ার কর্মকর্তা এবং X প্রতিনিধিদের মধ্যে আরও আলোচনার অপেক্ষায়। এই আলোচনার ফলাফল সম্ভবত ইন্দোনেশিয়ায় Grok-এর ভবিষ্যৎ প্রাপ্যতাকে প্রভাবিত করবে এবং এআই-উত্পাদিত ডিপফেকগুলির সমস্যা সমাধানে অন্যান্য দেশগুলির জন্য একটি নজির স্থাপন করতে পারে।