ব্যবহারকারীর প্রতিক্রিয়ার পর ইলন মাস্কের এআই কোম্পানি, এক্স.এআই, গ্রোকের ইমেজ জেনারেশন ফিচারের অ্যাক্সেস এক্স প্ল্যাটফর্মের শুধুমাত্র পেইড সাবস্ক্রাইবারদের জন্য সীমাবদ্ধ করেছে, কারণ টুলটির অপব্যবহার নিয়ে ব্যাপক সমালোচনা হয়েছিল। এক্স-এ ব্যবহারকারীদের উত্তরে শুক্রবার এই সীমাবদ্ধতার ঘোষণা করা হয়, যেখানে ছবি তৈরি এবং সম্পাদনা করার ক্ষমতা শুধুমাত্র পেইড সাবস্ক্রাইবারদের মধ্যে সীমাবদ্ধ রাখা হয়েছে। তবে, এই প্রতিবেদন লেখা পর্যন্ত, এই বিধিনিষেধগুলি গ্রোক অ্যাপের ক্ষেত্রে প্রযোজ্য ছিল না, যেখানে ব্যবহারকারীরা সাবস্ক্রিপশন ছাড়াই ছবি তৈরি করতে পারতেন।

ছবি তৈরি করার এই ফিচারটি প্রাথমিকভাবে দৈনিক লিমিটের সাথে সমস্ত ব্যবহারকারীর জন্য উপলব্ধ ছিল, যা ব্যক্তিদের ছবি আপলোড করতে এবং যৌন উত্তেজক বা নগ্ন সংস্করণ তৈরি সহ বিভিন্ন পরিবর্তনের অনুরোধ করার অনুমতি দিত। এই ক্ষমতার কারণে শিশু, অভিনেতা, মডেল এবং পাবলিক ফিগারদের সমন্বিত সম্মতিবিহীন যৌন উত্তেজক ছবি তৈরি হয়ে ছড়িয়ে পরে, যা আন্তর্জাতিক ক্ষোভের জন্ম দেয়।

এক্স এবং মাস্ক প্রকাশ্যে এই টুলের অপব্যবহারের নিন্দা করেছেন এবং বলেছেন যে কোম্পানিটি অবৈধ কন্টেন্টের বিরুদ্ধে তার নীতিগুলি বজায় রাখবে। কোম্পানিটি জানায়, "যে কেউ গ্রোক ব্যবহার করে অবৈধ কন্টেন্ট তৈরি করবে, অবৈধ কন্টেন্ট আপলোড করলে যে পরিণতি হবে, তাদেরও একই পরিণতি ভোগ করতে হবে।"

এই বিতর্কটি এআই ইমেজ জেনারেশন প্রযুক্তিকে দায়িত্বশীলতার সাথে প্রয়োগ করার ক্ষেত্রে চ্যালেঞ্জগুলো তুলে ধরে। গ্রোকের ইমেজ জেনারেশন ফিচারের প্রাথমিক সহজলভ্যতা, এআই সরঞ্জামগুলোতে অ্যাক্সেসকে সহজলভ্য করার উদ্দেশ্যে করা হলেও, অনিচ্ছাকৃতভাবে অপব্যবহারের জন্য একটি উপযুক্ত পরিবেশ তৈরি করেছে। ছবি ম্যানিপুলেট করার এবং ডিপফেক তৈরি করার ক্ষমতা সম্মতি, গোপনীয়তা এবং দূষিত ব্যবহারের সম্ভাবনা সম্পর্কে গুরুতর নৈতিক উদ্বেগ সৃষ্টি করে।

পেইড সাবস্ক্রাইবারদের জন্য অ্যাক্সেস সীমাবদ্ধ করার সিদ্ধান্তটি বৃহত্তর নিয়ন্ত্রণ এবং জবাবদিহিতার দিকে একটি পরিবর্তন। ব্যবহারকারীর সংখ্যা সীমিত করে, এক্স.এআই অপব্যবহারের ঝুঁকি কমাতে এবং সম্ভবত কঠোর পর্যবেক্ষণ ও নিয়ন্ত্রণ নীতি বাস্তবায়ন করতে চায়। তবে, গ্রোক অ্যাপে এই ফিচারের ক্রমাগত উপলব্ধতা এই পদক্ষেপগুলোর ধারাবাহিকতা এবং কার্যকারিতা সম্পর্কে প্রশ্ন তোলে।

এই ঘটনাটি এআই ইমেজ জেনারেশন প্রযুক্তির বিকাশ ও প্রয়োগের ক্ষেত্রে শক্তিশালী সুরক্ষা এবং নৈতিক নির্দেশিকাগুলোর প্রয়োজনীয়তার ওপর জোর দেয়। যেহেতু এই সরঞ্জামগুলো আরও অত্যাধুনিক এবং সহজলভ্য হয়ে উঠছে, তাই ডেভেলপার এবং প্ল্যাটফর্মগুলোকে অবশ্যই ব্যবহারকারীর সুরক্ষা নিশ্চিত করতে হবে এবং ক্ষতিকারক কন্টেন্ট তৈরি ও প্রচার বন্ধ করতে হবে। এই পদক্ষেপটি প্রযুক্তির অপব্যবহার কমাতে যথেষ্ট কিনা এবং অন্যান্য প্ল্যাটফর্মগুলো অনুরূপ বিধিনিষেধ আরোপ করে কিনা, সেদিকে পুরো শিল্প নজর রাখবে।