ইন্দোনেশিয়ার কর্মকর্তারা শনিবার জানিয়েছেন যে তারা xAI-এর চ্যাটবট Grok-এর অ্যাক্সেস সাময়িকভাবে বন্ধ করে দিচ্ছেন। কারণ হিসেবে তারা সম্মতি ব্যতিরেকে যৌনতাপূর্ণ ডিপফেক তৈরির বিষয়ে উদ্বেগ প্রকাশ করেছেন। এই পদক্ষেপটি এআই-উত্পাদিত চিত্রের বিস্তার রোধে সরকারের কঠোর পদক্ষেপগুলির মধ্যে অন্যতম। এই চিত্রগুলিতে প্রায়শই বাস্তব নারী ও অপ্রাপ্তবয়স্কদের চিত্রিত করা হয় এবং কখনও কখনও সামাজিক নেটওয়ার্ক X-এ ব্যবহারকারীর অনুরোধের ভিত্তিতে Grok কর্তৃক উৎপাদিত হওয়া assault ও abuse-এর দৃশ্যও দেখানো হয়। X এবং xAI উভয়ই একই মালিকানাধীন।

ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মেউটিয়া হাফিদ দ্য গার্ডিয়ান এবং অন্যান্য প্রকাশনার সাথে শেয়ার করা এক বিবৃতিতে বলেছেন, "সরকার সম্মতি ব্যতিরেকে যৌনতাপূর্ণ ডিপফেক তৈরির অনুশীলনকে মানবাধিকার, মর্যাদা এবং ডিজিটাল স্পেসে নাগরিকদের সুরক্ষার গুরুতর লঙ্ঘন হিসাবে দেখে।" মন্ত্রণালয়টি এই বিষয়ে আলোচনার জন্য X কর্মকর্তাদের তলব করেছে বলেও জানা গেছে।

এই প্রেক্ষাপটে ডিপফেক বলতে বোঝায় এআই-উত্পাদিত মিডিয়া, প্রায়শই ভিডিও বা ছবি, যা বিশ্বাসযোগ্যভাবে এমন ব্যক্তিদের চিত্রিত করে যারা এমন কিছু করছেন বা বলছেন যা তারা কখনও করেননি। এই প্রযুক্তি অত্যাধুনিক মেশিন লার্নিং অ্যালগরিদম, বিশেষ করে ডিপ লার্নিংয়ের উপর নির্ভর করে ভিজ্যুয়াল এবং অডিও সামগ্রী ম্যানিপুলেট এবং সংশ্লেষ করতে। উদ্বেগ দেখা দেয় যখন এই ডিপফেকগুলি সম্মতি ছাড়াই তৈরি করা হয়, বিশেষ করে যখন সেগুলি যৌনতাপূর্ণ বা শোষণমূলক হয়।

ইন্দোনেশিয়া সরকারের এই পদক্ষেপ অন্যান্য আন্তর্জাতিক সংস্থা কর্তৃক উত্থাপিত অনুরূপ উদ্বেগের ধারাবাহিকতা। ভারতের আইটি মন্ত্রণালয় xAI-কে Grok কর্তৃক অশ্লীল কনটেন্ট তৈরি করা থেকে বিরত রাখতে ব্যবস্থা নেওয়ার নির্দেশ দিয়েছে। ইউরোপীয় কমিশনও কোম্পানিটিকে Grok সম্পর্কিত সমস্ত নথি ধরে রাখতে অনুরোধ করেছে, যা সম্ভবত একটি আনুষ্ঠানিক তদন্তের শুরু হতে পারে। যুক্তরাজ্যে, যোগাযোগ নিয়ন্ত্রক সংস্থা Ofcom জানিয়েছে যে তারা পরিস্থিতি পর্যবেক্ষণ করছে।

Grok হল xAI, ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা সংস্থা দ্বারা তৈরি একটি কথোপকথনমূলক এআই। এটি অন্যান্য বৃহৎ ভাষা মডেল যেমন ChatGPT-এর মতোই প্রশ্নের উত্তর দিতে এবং টেক্সট তৈরি করতে ডিজাইন করা হয়েছে। তবে, ক্ষতিকারক কনটেন্ট তৈরিতে এর সম্ভাব্য অপব্যবহার সম্পর্কে উদ্বেগ প্রকাশ করা হয়েছে।

ইন্দোনেশিয়ায় Grok-এর অ্যাক্সেস বন্ধ করে দেওয়া এআই-উত্পাদিত কনটেন্ট সম্পর্কিত ক্রমবর্ধমান চ্যালেঞ্জ এবং নিয়ন্ত্রক জটিলতাগুলিকে তুলে ধরে। বিশ্বজুড়ে সরকারগুলি উদ্ভাবনের সাথে এই প্রযুক্তির সম্ভাব্য ক্ষতি থেকে ব্যক্তিদের সুরক্ষার প্রয়োজনীয়তার মধ্যে ভারসাম্য রক্ষার জন্য সংগ্রাম করছে। ইন্দোনেশিয়া সরকারের Grok-এর অ্যাক্সেস বন্ধ করার সিদ্ধান্ত সম্মতি ব্যতিরেকে ডিপফেক তৈরির বিষয়টিকে তারা কতটা গুরুত্বের সাথে দেখছে এবং ডিজিটাল ক্ষেত্রে তার নাগরিকদের সুরক্ষার প্রতি তাদের অঙ্গীকারকে তুলে ধরে। ইন্দোনেশিয়ার কর্মকর্তা এবং X প্রতিনিধিদের মধ্যে বৈঠকের ফলাফল, সেইসাথে xAI কর্তৃক গৃহীত যে কোনও পরবর্তী পদক্ষেপ সম্ভবত ইন্দোনেশিয়ায় Grok-এর ভবিষ্যৎ উপলব্ধতা নির্ধারণ করবে।