বিতর্কের পর এলন মাস্কের এআই কোম্পানি X.AI, গ্রোকের ইমেজ জেনারেশন ফিচারের অ্যাক্সেস X প্ল্যাটফর্মে শুধুমাত্র পেইড সাবস্ক্রাইবারদের জন্য সীমাবদ্ধ করেছে, কারণ টুলটির অপব্যবহার নিয়ে ব্যাপক সমালোচনা হয়েছিল। শুক্রবার ব্যবহারকারীদের জবাবে এই সীমাবদ্ধতার কথা ঘোষণা করা হয়, যেখানে শুধুমাত্র পেইড সাবস্ক্রাইবারদের জন্য ছবি তৈরি এবং সম্পাদনা করার ক্ষমতা সীমিত করা হয়েছে।

গ্রোকের ইমেজ-জেনারেশন ফিচারটি প্রথমে দৈনিক লিমিটের সাথে সকল ব্যবহারকারীর জন্য উপলব্ধ ছিল, যা যৌনতা বিষয়ক এবং নগ্ন ছবি তৈরি করতে সক্ষম ছিল, যার মধ্যে নারী ও শিশুদের ছবিও ছিল। ব্যবহারকারীরা ছবি আপলোড করে সেগুলোর পরিবর্তন করার অনুরোধ করতে পারত, যার ফলে শিশু, অভিনেতা, মডেল এবং পাবলিক ফিগারদের সমন্বয়ে তৈরি সম্মতিবিহীন যৌন উত্তেজক কন্টেন্টের বিস্তার ঘটে। এই কারণে বিভিন্ন দেশ থেকে এর নিন্দা জানানো হয়।

X এবং মাস্ক প্রকাশ্যে এই টুলের অপব্যবহারের নিন্দা করেছেন এবং জানিয়েছেন যে কোম্পানিটি অবৈধ কন্টেন্টের বিরুদ্ধে তাদের নীতিগুলি মেনে চলবে। X জানিয়েছে, "অবৈধ কন্টেন্ট তৈরি করার জন্য গ্রোক ব্যবহার করে কেউ ধরা পড়লে, অবৈধ কন্টেন্ট আপলোড করলে যে শাস্তি হয়, একই শাস্তি হবে।"

এই বিতর্ক ইমেজ জেনারেশন প্রযুক্তির অপব্যবহার রোধে এআই ডেভেলপারদের চ্যালেঞ্জগুলো তুলে ধরে। গ্রোকের প্রাথমিক অ্যাক্সেসিবিলিটি, এআই সরঞ্জামগুলোকে গণতান্ত্রিক করার উদ্দেশ্যে করা হলেও, অনিচ্ছাকৃতভাবে এমন একটি পরিবেশ তৈরি করেছে যেখানে খারাপ উদ্দেশ্য সম্পন্ন ব্যক্তিরা সিস্টেমটিকে কাজে লাগাতে পারে। পেইড সাবস্ক্রাইবারদের জন্য অ্যাক্সেস সীমাবদ্ধ করার সিদ্ধান্তটির লক্ষ্য হলো জবাবদিহিতার একটি স্তর যুক্ত করে এবং সম্ভাব্য অপব্যবহার রোধ করে এই ঝুঁকি কমানো।

বিশেষভাবে, এই বিধিনিষেধগুলি বর্তমানে গ্রোক অ্যাপের জন্য প্রযোজ্য নয়, যা প্রকাশের সময় পর্যন্ত, সাবস্ক্রিপশন ছাড়াই যে কাউকে ছবি তৈরি করতে দিত। এই অসঙ্গতি গ্রোক প্ল্যাটফর্ম জুড়ে অ্যাক্সেস পরিচালনা এবং অপব্যবহার রোধ করার জন্য X.AI-এর দীর্ঘমেয়াদী কৌশল সম্পর্কে প্রশ্ন তোলে। কোম্পানিটি এখনও গ্রোক অ্যাপে অনুরূপ বিধিনিষেধ আরোপ করা হবে কিনা সে বিষয়ে কোনো মন্তব্য করেনি।

এই ঘটনাটি এআই-উত্পাদিত কন্টেন্টের নৈতিক প্রভাব এবং অপব্যবহারের বিরুদ্ধে সুরক্ষার ব্যবস্থা বাস্তবায়নের জন্য ডেভেলপারদের দায়িত্ব নিয়ে বৃহত্তর শিল্প বিতর্ককে তুলে ধরে। এআই ইমেজ জেনারেশন সরঞ্জামগুলি আরও অত্যাধুনিক এবং সহজলভ্য হওয়ার সাথে সাথে, শক্তিশালী কন্টেন্ট মডারেশন নীতি এবং ব্যবহারকারী যাচাইকরণ ব্যবস্থার প্রয়োজনীয়তা ক্রমশ গুরুত্বপূর্ণ হয়ে উঠছে। এআই ইমেজ জেনারেশনের গ্রহণ যোগ্যতা এবং ধারণার উপর X.AI-এর সিদ্ধান্তের দীর্ঘমেয়াদী প্রভাব এখনও দেখার বিষয়।