ইলন মাস্কের এআই কোম্পানি, এক্স.এআই, গ্রোকের ইমেজ জেনারেশন ফিচারের অ্যাক্সেস এক্স প্ল্যাটফর্মে শুধুমাত্র পেইড সাবস্ক্রাইবারদের জন্য সীমাবদ্ধ করেছে। এর আগে এই ফিচারের মাধ্যমে ব্যবহারকারীরা নারী ও শিশুদের যৌন আবেদনময়ী এবং নগ্ন ছবি তৈরি করার সুযোগ পাওয়ায় ব্যাপক সমালোচনার সৃষ্টি হয়েছিল। শুক্রবার ব্যবহারকারীদের মন্তব্যের জবাবে এই পরিবর্তনের ঘোষণা করা হয়। এতে ইমেজ জেনারেশন এবং এডিটিংয়ের সুবিধা শুধুমাত্র পেইড সাবস্ক্রাইবারদের জন্য সীমিত করা হয়েছে। তবে, প্রতিবেদনটি প্রকাশের সময় পর্যন্ত, এই বিধিনিষেধ গ্রোক অ্যাপের ক্ষেত্রে প্রযোজ্য ছিল না, যেখানে সমস্ত ব্যবহারকারী সাবস্ক্রিপশন ছাড়াই ছবি তৈরি করতে পারতেন।

ইমেজ-জেনারেশন ফিচারটি প্রাথমিকভাবে দৈনিক লিমিটের সাথে সমস্ত ব্যবহারকারীর জন্য উপলব্ধ ছিল। এর মাধ্যমে ছবি আপলোড করে এডিট করা বা যৌন আবেদনময়ী অথবা নগ্ন সংস্করণ তৈরি করা যেত। এই ক্ষমতার কারণে শিশু, অভিনেতা, মডেল এবং বিশিষ্ট ব্যক্তিদের সম্মতি ছাড়াই যৌন আবেদনময়ী ছবি তৈরি করার হিড়িক পড়ে যায়, যা আন্তর্জাতিক ক্ষোভের জন্ম দেয়। এক্স এবং মাস্ক প্রকাশ্যে এই সরঞ্জামের অপব্যবহারের নিন্দা করেছেন এবং জানান যে কোম্পানিটি সোশ্যাল মিডিয়া প্ল্যাটফর্মে অবৈধ কন্টেন্টের বিরুদ্ধে তাদের নীতি মেনে চলবে। কোম্পানিটি জানায়, "যে কেউ গ্রোক ব্যবহার করে অবৈধ কন্টেন্ট তৈরি করবে, তাদের ক্ষেত্রেও একই পরিণতি হবে, যেমন অবৈধ কন্টেন্ট আপলোড করলে হয়ে থাকে।"

এই বিতর্ক ইমেজ জেনারেশন প্রযুক্তির অপব্যবহার রোধে এআই ডেভেলপারদের চ্যালেঞ্জগুলো তুলে ধরে। গ্রোকের প্রাথমিক প্রয়োগে ক্ষতিকর এবং শোষণমূলক কন্টেন্ট তৈরি প্রতিরোধ করার জন্য পর্যাপ্ত সুরক্ষার অভাব ছিল। এই ঘটনাটি এআই-চালিত সরঞ্জামগুলোর উন্নয়ন এবং প্রয়োগে শক্তিশালী কন্টেন্ট মডারেশন এবং নৈতিক নির্দেশিকাগুলোর প্রয়োজনীয়তার ওপর জোর দেয়। পেইড সাবস্ক্রাইবারদের জন্য অ্যাক্সেস সীমাবদ্ধ করার কোম্পানির সিদ্ধান্ত ব্যবহারকারীর সংখ্যা সীমিত করে এবং সম্ভবত জবাবদিহিতা বাড়িয়ে সমস্যাটি কমানোর একটি প্রচেষ্টা।

গ্রোকের ইমেজ জেনারেশন ফিচারটিকে পেইড সাবস্ক্রাইবারদের মধ্যে সীমাবদ্ধ করার পদক্ষেপটি কন্টেন্ট তৈরির ওপর কঠোর নিয়ন্ত্রণ আরোপ করার জন্য এআই প্ল্যাটফর্মগুলোর মধ্যে একটি ক্রমবর্ধমান প্রবণতাকে প্রতিফলিত করে। অন্যান্য এআই ইমেজ জেনারেটর, যেমন ডাল-ই ২ এবং মিডজার্নিও একই ধরনের চ্যালেঞ্জের সম্মুখীন হয়েছে এবং ক্ষতিকর বা অনুপযুক্ত কন্টেন্ট তৈরি প্রতিরোধ করার জন্য বিভিন্ন পদক্ষেপ নিয়েছে, যার মধ্যে কন্টেন্ট ফিল্টার এবং ব্যবহারের নির্দেশিকা অন্যতম।

গ্রোকের গ্রহণ যোগ্যতা এবং ব্যবহারের ওপর এই সিদ্ধান্তের দীর্ঘমেয়াদী প্রভাব এখনো দেখার বিষয়। অ্যাক্সেস সীমাবদ্ধ করলে অপব্যবহারের সম্ভাবনা কমতে পারে, তবে এটি বৃহত্তর দর্শকদের কাছে সরঞ্জামটির আবেদনও সীমিত করতে পারে। কোম্পানিটি এখনো গ্রোক অ্যাপের জন্য অতিরিক্ত সুরক্ষা বা কন্টেন্ট মডারেশন ব্যবস্থা বাস্তবায়নের কোনো পরিকল্পনা ঘোষণা করেনি, যেখানে অবাধে ছবি তৈরি করার সুযোগ এখনো রয়েছে। এআই ইমেজ জেনারেশনের জটিল নৈতিক এবং প্রযুক্তিগত চ্যালেঞ্জগুলো মোকাবিলা করার সময় পরিস্থিতি এখনো পরিবর্তনশীল।