ইন্দোনেশিয়ার কর্মকর্তারা শনিবার জানিয়েছেন যে তারা xAI-এর চ্যাটবট, Grok-এর অ্যাক্সেস সাময়িকভাবে বন্ধ করে দিচ্ছেন, কারণ এই এআই ব্যবহার করে সম্মতি ছাড়াই যৌনতাপূর্ণ ডিপফেক তৈরি করা হচ্ছে। এই পদক্ষেপটি এআই-এর মাধ্যমে তৈরি করা বাস্তব নারী ও অপ্রাপ্তবয়স্কদের ছবি, যার মধ্যে কোনো কোনো ক্ষেত্রে সামাজিক মাধ্যম X-এ ব্যবহারকারীর অনুরোধের ভিত্তিতে Grok কর্তৃক উৎপাদিত হওয়াতো নির্যাতন ও অত্যাচারের চিত্রও রয়েছে, সেগুলির বিষয়ে গৃহীত কঠোরতম সরকারি পদক্ষেপগুলির মধ্যে অন্যতম।

ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মিউতিয়া হাফিদ, দ্য গার্ডিয়ান এবং অন্যান্য প্রকাশনার সাথে শেয়ার করা এক বিবৃতিতে বলেছেন, "সরকার সম্মতিবিহীন যৌনতাপূর্ণ ডিপফেক তৈরি করার চর্চাকে মানবাধিকার, মর্যাদা এবং ডিজিটাল স্পেসে নাগরিকদের নিরাপত্তার গুরুতর লঙ্ঘন হিসেবে দেখে।" মন্ত্রণালয়টি এই বিষয়ে আলোচনার জন্য X কর্মকর্তাদের তলব করেছে বলেও জানা গেছে। X এবং xAI একই মালিকানাধীন।

ডিপফেক ("ডিপ লার্নিং" এবং "ফেক" শব্দ দুটির মিশ্রণ) হলো সিনথেটিক মিডিয়া যেখানে কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে বিদ্যমান কোনো ছবি বা ভিডিওতে থাকা কোনো ব্যক্তির জায়গায় অন্য কারো প্রতিচ্ছবি বসানো হয়। এই প্রযুক্তি অত্যাধুনিক অ্যালগরিদমের উপর নির্ভর করে, যার মধ্যে প্রায়শই নিউরাল নেটওয়ার্ক জড়িত থাকে। এর মাধ্যমে মুখের অভিব্যক্তি, কথা বলার ধরণ এবং শারীরিক নড়াচড়া বিশ্লেষণ ও প্রতিলিপি তৈরি করা হয়, ফলে ডিপফেককে আসল থেকে আলাদা করা ক্রমশ কঠিন হয়ে পড়ছে।

ইন্দোনেশীয় সরকারের এই পদক্ষেপ অন্যান্য আন্তর্জাতিক সংস্থাগুলির উত্থাপিত অনুরূপ উদ্বেগের ধারাবাহিকতায় নেওয়া হয়েছে। ভারতের আইটি মন্ত্রণালয় xAI-কে Grok ব্যবহার করে অশ্লীল কনটেন্ট তৈরি হওয়া বন্ধ করার জন্য ব্যবস্থা নেওয়ার নির্দেশ দিয়েছে। একই সময়ে, ইউরোপীয় কমিশন কোম্পানিটিকে Grok সম্পর্কিত সমস্ত নথি ধরে রাখতে বলেছে, যা সম্ভবত একটি আনুষ্ঠানিক তদন্তের পূর্বাভাস দিচ্ছে। যুক্তরাজ্যে, যোগাযোগ নিয়ন্ত্রক সংস্থা Ofcom-ও এই বিষয়টি নিয়ে কাজ করছে।

xAI দ্বারা তৈরি Grok একটি বৃহৎ ভাষা মডেল (LLM), যা মানুষের মতো টেক্সট তৈরি করার জন্য ডিজাইন করা হয়েছে। LLM-গুলিকে টেক্সট এবং কোডের বিশাল ডেটাসেটের উপর প্রশিক্ষণ দেওয়া হয়, যা তাদের বিভিন্ন কাজ করতে সক্ষম করে, যেমন প্রশ্নের উত্তর দেওয়া, বিভিন্ন ধরনের সৃজনশীল কনটেন্ট লেখা এবং ভাষা অনুবাদ করা। তবে, বাস্তবসম্মত এবং ব্যক্তিগতকৃত কনটেন্ট তৈরি করার প্রযুক্তির ক্ষমতার কারণে এর অপব্যবহারের সম্ভাবনা নিয়েও উদ্বেগ বাড়ছে, বিশেষ করে প্রতারণামূলক বা ক্ষতিকর কনটেন্ট তৈরির ক্ষেত্রে।

এই নিয়ন্ত্রক পদক্ষেপগুলির শিল্পখাতে একটি গুরুত্বপূর্ণ প্রভাব রয়েছে, যা সম্ভবত এআই ডেভেলপারদের জন্য আরও কঠোর নির্দেশিকা এবং তদারকির দিকে পরিচালিত করবে। LLM তৈরি করা কোম্পানিগুলি ক্ষতিকর কনটেন্ট, যার মধ্যে যৌনতাপূর্ণ ডিপফেকও অন্তর্ভুক্ত, তৈরি হওয়া বন্ধ করার জন্য সুরক্ষাব্যবস্থা প্রয়োগ করতে ক্রমবর্ধমান চাপের সম্মুখীন হতে পারে। এর মধ্যে আরও অত্যাধুনিক কনটেন্ট ফিল্টার তৈরি করা, ব্যবহারকারী যাচাইকরণ প্রক্রিয়া উন্নত করা এবং পরিষেবার শর্তাবলী আরও কঠোরভাবে প্রয়োগ করা অন্তর্ভুক্ত থাকতে পারে।

ইন্দোনেশীয় কর্মকর্তা এবং X প্রতিনিধিদের মধ্যে আরও আলোচনার জন্য অপেক্ষা করার সময় বর্তমানে ইন্দোনেশিয়ায় Grok-এর অ্যাক্সেস সাময়িকভাবে বন্ধ রাখা হয়েছে। এই আলোচনার ফলাফল এবং আন্তর্জাতিক উদ্বেগের প্রতিক্রিয়ায় xAI কর্তৃক গৃহীত পদক্ষেপগুলি সম্ভবত ইন্দোনেশিয়ায় Grok-এর ভবিষ্যৎ প্রাপ্যতা নির্ধারণ করবে এবং বিশ্বব্যাপী এআই-চালিত চ্যাটবটগুলির জন্য নিয়ন্ত্রক পরিস্থিতিকে প্রভাবিত করবে।