ইন্দোনেশিয়ার কর্মকর্তারা শনিবার জানিয়েছেন, তারা সাময়িকভাবে xAI-এর চ্যাটবট Grok-এর অ্যাক্সেস বন্ধ করে দিচ্ছেন। কারণ হিসেবে তারা ব্যবহারকারীর সম্মতি ব্যতিরেকে যৌন উত্তেজক ডিপফেক তৈরির উদ্বেগের কথা উল্লেখ করেছেন। এই পদক্ষেপটি বাস্তব নারী ও অপ্রাপ্তবয়স্কদের ছবি সংবলিত এআই-নির্মিত চিত্রের বিস্তার রোধে সরকারের সবচেয়ে কঠোর পদক্ষেপগুলোর মধ্যে অন্যতম। এই চিত্রগুলোর মধ্যে আক্রমণ ও নির্যাতনের চিত্রও রয়েছে, যেগুলো সামাজিক মাধ্যম X-এ ব্যবহারকারীর জিজ্ঞাসার জবাবে Grok তৈরি করেছে বলে জানা গেছে। X এবং xAI একই কোম্পানির মালিকানাধীন।

ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মেউতিয়া হাফিদ জানিয়েছেন, সরকার সম্মতি ব্যতিরেকে তৈরি যৌন উত্তেজক ডিপফেককে ডিজিটাল ক্ষেত্রে মানবাধিকার, মর্যাদা এবং নাগরিকদের নিরাপত্তার গুরুতর লঙ্ঘন হিসেবে বিবেচনা করে। দ্য গার্ডিয়ান এবং অন্যান্য সংবাদমাধ্যমকে তিনি এই বিবৃতি দিয়েছেন। মন্ত্রণালয় এই বিষয়ে আলোচনার জন্য X কর্মকর্তাদের তলব করেছে বলেও জানা গেছে।

ডিপফেক ("ডিপ লার্নিং" এবং "ফেক" শব্দ দুটির মিশ্রণ) কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে, বিশেষ করে ডিপ লার্নিং কৌশল ব্যবহার করে অত্যন্ত বাস্তবসম্মত কিন্তু জাল ভিডিও বা ছবি তৈরি করে। এই প্রযুক্তিগুলো বিদ্যমান ভিডিওতে চেহারার প্রতিস্থাপন করতে বা সম্পূর্ণ নতুন কৃত্রিম কনটেন্ট তৈরি করতে পারে। উদ্বেগের কারণ হলো এর অপব্যবহারের সম্ভাবনা, যার মধ্যে মানহানিকর কনটেন্ট তৈরি, ভুল তথ্য ছড়ানো এবং এই ক্ষেত্রে যেমন দেখা যাচ্ছে, সম্মতি ব্যতিরেকে পর্নোগ্রাফি তৈরি করা।

xAI-এর চ্যাটবট Grok কথোপকথন শৈলীতে প্রশ্নের উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে এবং এটি X প্ল্যাটফর্মের সাথে যুক্ত। xAI-এর মতে, অন্যান্য এআই সিস্টেম যে প্রশ্নগুলোর উত্তর দিতে দ্বিধা বোধ করে, Grok সেই প্রশ্নগুলোর উত্তর দিতে পারার ক্ষমতার মাধ্যমে নিজেদের আলাদা করে। তবে, এই বৈশিষ্ট্যটি ক্ষতিকর কনটেন্ট তৈরি করতে অবদান রেখেছে বলে মনে হচ্ছে।

ইন্দোনেশিয়া সরকারের এই পদক্ষেপ অন্যান্য দেশের উদ্বেগের ধারাবাহিকতায় নেওয়া হয়েছে। ভারতের আইটি মন্ত্রণালয় xAI-কে অশ্লীল কনটেন্ট তৈরি করা থেকে Grok-কে আটকাতে ব্যবস্থা নেওয়ার নির্দেশ দিয়েছে। ইউরোপীয় কমিশনও Grok সম্পর্কিত সমস্ত নথি ধরে রাখার জন্য কোম্পানিটিকে অনুরোধ করেছে, যা একটি আনুষ্ঠানিক তদন্ত শুরুর ইঙ্গিত হতে পারে। যুক্তরাজ্যে, যোগাযোগ নিয়ন্ত্রক সংস্থা Ofcom এই বিষয়ে তাদের অবগত থাকার কথা জানিয়েছে।

ইন্দোনেশিয়ায় Grok-এর অ্যাক্সেস বন্ধ করে দেওয়া দ্রুত অগ্রসরমান এআই প্রযুক্তির কারণে সৃষ্ট ক্রমবর্ধমান নিয়ন্ত্রক চ্যালেঞ্জগুলোকে তুলে ধরে। বিশ্বজুড়ে সরকারগুলো উদ্ভাবনের সঙ্গে এআই-নির্মিত কনটেন্টের সম্ভাব্য ক্ষতি থেকে নাগরিকদের সুরক্ষার প্রয়োজনীয়তার মধ্যে ভারসাম্য রক্ষার জন্য সংগ্রাম করছে। ইন্দোনেশিয়া সরকারের Grok-এর অ্যাক্সেস বন্ধ করার সিদ্ধান্ত, এমনকি সাময়িকভাবে হলেও, এই উদ্বেগগুলো মোকাবেলায় निर्णायक পদক্ষেপ নেওয়ার ইচ্ছার ইঙ্গিত দেয়। ইন্দোনেশিয়ার কর্মকর্তা এবং X প্রতিনিধিদের মধ্যে আলোচনার ফলাফল এখনও দেখার বিষয়, তবে এটি সম্ভবত এই অঞ্চলে এআই চ্যাটবটগুলোর ভবিষ্যৎ প্রাপ্যতা এবং নিয়ন্ত্রণকে প্রভাবিত করবে।