ইন্দোনেশিয়া শনিবার ইলন মাস্কের গ্রোক চ্যাটবটের অ্যাক্সেস সাময়িকভাবে বন্ধ করে দিয়েছে, এই এআই সরঞ্জামটি পর্নোগ্রাফিক সামগ্রী তৈরি করতে পারে এমন উদ্বেগের কারণে। এই সিদ্ধান্তের মাধ্যমে গ্রোক-এর অ্যাক্সেস বন্ধ করে দেওয়া প্রথম দেশ হিসেবে চিহ্নিত হল ইন্দোনেশিয়া। গ্রোক হল xAI দ্বারা তৈরি একটি এআই চ্যাটবট।

ইন্দোনেশিয়ার সরকারের এই পদক্ষেপটি ইউরোপ এবং এশিয়া জুড়ে সরকার, গবেষক এবং নিয়ন্ত্রকদের কাছ থেকে আসা ক্রমবর্ধমান সমালোচনার ফলস্বরূপ, যাদের মধ্যে কেউ কেউ এআই দ্বারা তৈরি যৌনতাপূর্ণ বিষয়বস্তু নিয়ে তদন্ত শুরু করেছে। এই উদ্বেগের কেন্দ্রবিন্দুতে রয়েছে গ্রোকের মতো এআই মডেলগুলোর ডিপফেক তৈরি করার ক্ষমতা, বিশেষ করে সম্মতিবিহীন যৌন চিত্র তৈরি করার ক্ষমতা, যেটিকে ইন্দোনেশিয়ার সরকার একটি গুরুতর লঙ্ঘন হিসেবে দেখে।

গ্রোকের প্রস্তুতকারক সংস্থা xAI বৃহস্পতিবার ঘোষণা করেছে যে তারা যৌনতাপূর্ণ আউটপুট তৈরি করার অনুমতি দেওয়া সুরক্ষাজনিত ত্রুটিগুলো সমাধানের জন্য ছবি তৈরি এবং সম্পাদনার ক্ষমতা শুধুমাত্র অর্থ প্রদানকারী গ্রাহকদের জন্য সীমাবদ্ধ করছে। এই ত্রুটিগুলোর কারণে স্বল্পবসনা শিশুদের ছবিও তৈরি করা যাচ্ছিল। কোম্পানিটি জানিয়েছে, তারা তাদের সুরক্ষা ব্যবস্থা উন্নত করতে এবং অনুপযুক্ত সামগ্রী তৈরি হওয়া আটকাতে সক্রিয়ভাবে কাজ করছে।

এই ঘটনাটি এআই-উত্পাদিত বিষয়বস্তু নিয়ন্ত্রণ এবং এর অপব্যবহার প্রতিরোধের ক্ষেত্রে চলমান চ্যালেঞ্জগুলোকে তুলে ধরে। গ্রোকের মতো এআই মডেলগুলো, যেগুলো বিশাল ডেটাসেটের ওপর ভিত্তি করে প্রশিক্ষিত, মাঝে মাঝে অপ্রত্যাশিত এবং ক্ষতিকারক আউটপুট তৈরি করতে পারে, যা ডেটাতে থাকা পক্ষপাতিত্বকে প্রতিফলিত করে বা মডেলের নকশার দুর্বলতাগুলোকে কাজে লাগায়। এই প্রযুক্তিটি মত প্রকাশের স্বাধীনতা, সেন্সরশিপ এবং এআই ডেভেলপারদের তাদের সরঞ্জামগুলো নৈতিকভাবে এবং দায়িত্বের সাথে ব্যবহার করা নিশ্চিত করার দায়িত্ব সম্পর্কে জটিল প্রশ্ন তোলে।

ইন্দোনেশিয়ায় গ্রোকের অ্যাক্সেস বন্ধ করে দেওয়া বিশ্বব্যাপী এআই প্রযুক্তির ক্রমবর্ধমান যাচাই-বাছাইয়ের বিষয়টিকে আরও স্পষ্ট করে। নিয়ন্ত্রকরা এআই-এর সম্ভাব্য সুবিধা এবং ব্যক্তি কে ক্ষতির হাত থেকে বাঁচানোর প্রয়োজনীয়তার মধ্যে ভারসাম্য রক্ষার জন্য সংগ্রাম করছেন। উদাহরণস্বরূপ, ইউরোপীয় ইউনিয়ন একটি বিস্তৃত এআই প্রবিধান তৈরি করছে, যা উচ্চ-ঝুঁকিপূর্ণ এআই সিস্টেমগুলোর উপর কঠোর প্রয়োজনীয়তা আরোপ করবে।

xAI কর্তৃক আরও কঠোর কনটেন্ট মডারেশন নীতি পর্যালোচনা এবং সম্ভাব্য বাস্তবায়ন না করা পর্যন্ত এই ব্লকের বর্তমান অবস্থা সাময়িক। ইন্দোনেশিয়ার সরকার ব্লকের সঠিক সময়কাল নির্দিষ্ট করেনি, তবে আশা করা হচ্ছে পর্নোগ্রাফিক সামগ্রী তৈরি হওয়া আটকাতে পর্যাপ্ত সুরক্ষা ব্যবস্থা আছে এই বিষয়ে কর্তৃপক্ষ নিশ্চিত না হওয়া পর্যন্ত এটি বহাল থাকবে। পরিস্থিতি বর্তমানে চলমান, এবং xAI তাদের এআই সুরক্ষা ব্যবস্থা পরিমার্জন এবং বিশ্বব্যাপী নিয়ন্ত্রকদের সাথে যুক্ত হওয়ার সাথে সাথে আরও অগ্রগতি প্রত্যাশিত।