ইন্দোনেশিয়া পর্নোগ্রাফিক কন্টেন্ট তৈরির সম্ভাবনার উদ্বেগের কারণে শনিবার ইলন মাস্কের গ্রোক চ্যাটবটটিকে সাময়িকভাবে ব্লক করেছে। এই পদক্ষেপটি কোনো দেশের পক্ষ থেকে এই নির্দিষ্ট ঝুঁকির কারণে এআই সরঞ্জামটিতে প্রবেশাধিকার বন্ধ করার প্রথম উদাহরণ।

ইন্দোনেশিয়ার সরকারের এই পদক্ষেপটি ইউরোপ এবং এশিয়া জুড়ে সরকার, গবেষক এবং নিয়ন্ত্রকদের কাছ থেকে ক্রমবর্ধমান সমালোচনার পরে নেওয়া হয়েছে। এদের মধ্যে কেউ কেউ অ্যাপ্লিকেশনটির মাধ্যমে যৌনতাপূর্ণ কন্টেন্ট তৈরি করার বিষয়ে তদন্ত শুরু করেছে। এই উদ্বেগের কেন্দ্রবিন্দুতে রয়েছে গ্রোকের মাধ্যমে সম্মতিবিহীন যৌন বিষয়ক ডিপফেক তৈরি করার সম্ভাবনা, যা ইন্দোনেশিয়ার সরকার একটি গুরুতর লঙ্ঘন হিসেবে দেখে।

গ্রোক তৈরি করেছে ইলন মাস্কের প্রতিষ্ঠিত একটি কৃত্রিম বুদ্ধিমত্তা বিষয়ক স্টার্টআপ xAI। বৃহস্পতিবার, xAI জানায় যে তারা যৌনতাপূর্ণ আউটপুট তৈরি করার অনুমতি দেওয়া সুরক্ষাজনিত ত্রুটিগুলি মোকাবিলা করার জন্য অর্থ প্রদানকারী গ্রাহকদের জন্য ছবি তৈরি এবং সম্পাদনার ক্ষমতা সীমিত করছে। এই সীমাবদ্ধতার মধ্যে স্বল্পবসনা শিশুদের ছবিও ছিল। এই সিদ্ধান্তটি ক্রমবর্ধমান সমালোচনা এবং এআই-এর মাধ্যমে অনুপযুক্ত কন্টেন্ট তৈরি করার ক্ষমতার প্রতিবেদনের প্রতিক্রিয়ায় নেওয়া হয়েছে।

গ্রোকের মূল প্রযুক্তি, অন্যান্য আধুনিক এআই চ্যাটবটগুলির মতোই, বৃহৎ ভাষা মডেলের (এলএলএম) উপর নির্ভরশীল। এই মডেলগুলি বিশাল ডেটাসেট (data set) থেকে টেক্সট এবং ছবি নিয়ে প্রশিক্ষিত, যা তাদের শেখা প্যাটার্নের উপর ভিত্তি করে নতুন কন্টেন্ট তৈরি করতে সক্ষম করে। তবে, এই প্রশিক্ষণ প্রক্রিয়ার প্রকৃতির কারণে কিছু অপ্রত্যাশিত পরিণতি হতে পারে, যার মধ্যে পক্ষপাতদুষ্ট, আপত্তিকর বা এই ক্ষেত্রে যৌনতাপূর্ণ উপাদান তৈরি হওয়াও সম্ভব। চ্যালেঞ্জটি হলো ক্ষতিকারক কন্টেন্ট তৈরি হওয়া প্রতিরোধ করার পাশাপাশি সৃজনশীল এবং উৎপাদনশীল ব্যবহারের সুযোগ দেওয়ার জন্য এই মডেলগুলির আউটপুটকে কার্যকরভাবে নিয়ন্ত্রণ করা।

এই ঘটনাটি দ্রুত অগ্রসরমান এআই প্রযুক্তির জটিল নৈতিক এবং সামাজিক প্রভাবগুলির উপর আলোকপাত করে। বাস্তবসম্মত ছবি এবং ভিডিও তৈরি করার ক্ষমতা অপব্যবহারের সম্ভাবনা সম্পর্কে গুরুতর উদ্বেগ সৃষ্টি করে, যার মধ্যে হয়রানি, মানহানি বা ব্যক্তি exploitation করার উদ্দেশ্যে ডিপফেক তৈরি করাও অন্তর্ভুক্ত। বিশ্বজুড়ে নিয়ন্ত্রকরা এই চ্যালেঞ্জগুলি মোকাবিলার জন্য কাজ করছেন, যেখানে ব্যক্তি এবং সমাজকে রক্ষা করার পাশাপাশি এআই ক্ষেত্রে উদ্ভাবনকে উৎসাহিত করার মধ্যে ভারসাম্য বজায় রাখার চেষ্টা চলছে।

ইন্দোনেশিয়ার এই সাময়িক নিষেধাজ্ঞা এআই প্রযুক্তির দায়িত্বশীল উন্নয়ন এবং ব্যবহার নিয়ে ক্রমবর্ধমান আন্তর্জাতিক উদ্বেগকে তুলে ধরে। গ্রোকের সাথে সম্পর্কিত ঝুঁকিগুলি হ্রাস করতে xAI আর কী পদক্ষেপ নেবে এবং অন্যান্য দেশগুলি চ্যাটবটটিতে প্রবেশাধিকার সীমাবদ্ধ করার ক্ষেত্রে ইন্দোনেশিয়ার পদাঙ্ক অনুসরণ করবে কিনা, তা দেখার বিষয়। পরিস্থিতি এখনও চলমান, এবং ইন্দোনেশিয়ার সরকার এখনও গ্রোক-এ প্রবেশাধিকার পুনরুদ্ধারের শর্তাবলী নির্দিষ্ট করেনি।