এলন মাস্কের এআই কোম্পানি, এক্স. কর্প, গ্রোকের এআই ইমেজ-জেনারেশন ফিচারের অ্যাক্সেস সীমিত করেছে, যা শুধুমাত্র এক্স প্ল্যাটফর্মের পেইড সাবস্ক্রাইবারদের জন্য ব্যবহার করা যাবে। এই পরিবর্তনটি নারীদের এবং শিশুদের যৌন ও নগ্ন ছবি তৈরি করার সরঞ্জামটির ক্ষমতা নিয়ে ব্যাপক সমালোচনার পরে করা হয়েছে। গ্রোক শুক্রবার ব্যবহারকারীর জিজ্ঞাসার জবাবে দেওয়া বিবৃতিতে জানিয়েছে, এখন থেকে শুধুমাত্র পেইড সাবস্ক্রাইবাররাই প্ল্যাটফর্মে ছবি তৈরি এবং সম্পাদনা করতে পারবে।

তবে, এই বিধিনিষেধগুলি বর্তমানে গ্রোক অ্যাপের ক্ষেত্রে প্রযোজ্য নয়, যেখানে প্রতিবেদন লেখার সময় পর্যন্ত ব্যবহারকারীরা পেইড সাবস্ক্রিপশন ছাড়াই ছবি তৈরি করতে পারতেন। ইমেজ-জেনারেশন ফিচারটি, যা প্রাথমিকভাবে দৈনিক সীমা সহ সমস্ত ব্যবহারকারীর জন্য উপলব্ধ ছিল, ছবি সম্পাদনা করার জন্য আপলোড করা বা যৌন বা নগ্ন সংস্করণ তৈরি করার সুবিধা দিত। এই ক্ষমতার কারণে শিশু, অভিনেতা, মডেল এবং বিশিষ্ট ব্যক্তিদের সমন্বিত সম্মতিবিহীন, যৌনতাপূর্ণ ছবির সংখ্যা বেড়ে যায়, যা আন্তর্জাতিক নিন্দার জন্ম দেয়।

এক্স এবং মাস্ক প্রকাশ্যে এই সরঞ্জামের অপব্যবহারের নিন্দা করেছেন এবং সোশ্যাল মিডিয়া প্ল্যাটফর্মে অবৈধ কনটেন্ট পোস্ট করার বিরুদ্ধে কোম্পানির নীতি প্রয়োগের প্রতিশ্রুতি পুনর্ব্যক্ত করেছেন। কোম্পানিটি জানিয়েছে, "অবৈধ কনটেন্ট তৈরি করতে গ্রোক ব্যবহার করে যে কেউ অবৈধ কনটেন্ট আপলোড করার মতোই পরিণতি ভোগ করবে।"

এই বিতর্কটি এআই ইমেজ জেনারেশন প্রযুক্তিকে দায়িত্বশীলতার সাথে ব্যবহারের ক্ষেত্রে চ্যালেঞ্জগুলো তুলে ধরে। ছবি ম্যানিপুলেট এবং তৈরি করার ক্ষমতা উল্লেখযোগ্য নৈতিক উদ্বেগের জন্ম দেয়, বিশেষ করে সম্মতি, গোপনীয়তা এবং অপব্যবহারের সম্ভাবনা সম্পর্কিত বিষয়গুলোতে। ঘটনাটি ক্ষতিকর বা অবৈধ কনটেন্ট তৈরি এবং বিস্তার রোধে শক্তিশালী কনটেন্ট মডারেশন নীতি এবং প্রয়োগ ব্যবস্থার গুরুত্বের ওপরও জোর দেয়।

গ্রোকের ইমেজ জেনারেশন পেইড সাবস্ক্রাইবারদের মধ্যে সীমাবদ্ধ করার সিদ্ধান্তটি প্রযুক্তি ব্যবস্থাপনার ক্ষেত্রে এক্স-এর দৃষ্টিভঙ্গির পরিবর্তনকে উপস্থাপন করে। এই পদক্ষেপটি সরঞ্জামটির সাথে সম্পর্কিত কিছু ঝুঁকি কমাতে পারলেও, এটি অ্যাক্সেসযোগ্যতা এবং একটি দ্বি-স্তর বিশিষ্ট সিস্টেমের সম্ভাবনা সম্পর্কে প্রশ্ন তোলে, যেখানে পেইড ব্যবহারকারীদের সম্ভাব্য সমস্যাযুক্ত এআই ক্ষমতাগুলিতে বেশি অ্যাক্সেস থাকবে। এআই ইমেজ জেনারেশন প্রযুক্তির বিকাশ এবং ব্যবহারের ক্ষেত্রে এই সিদ্ধান্তের দীর্ঘমেয়াদী প্রভাব এখনো দেখার বিষয়। গ্রোক অ্যাপটিও একই বিধিনিষেধের আওতায় আসবে কিনা, সে বিষয়ে কোম্পানি এখনো কিছু জানায়নি।