পূর্বে টুইটার নামে পরিচিত X, Grok-এর ছবি সম্পাদনার বৈশিষ্ট্যগুলির জন্য একটি সীমিত পেওয়াল (paywall) চালু করেছে, কিন্তু বিনামূল্যে ব্যবহারকারীরা এখনও বিকল্প পদ্ধতির মাধ্যমে সরঞ্জামটি ব্যবহার করতে পারছে, যা এই পদক্ষেপের কার্যকারিতা নিয়ে প্রশ্ন তুলেছে। এই পরিবর্তনটি আসে যখন খবর প্রকাশিত হয় যে ব্যবহারকারীরা Grok ব্যবহার করে প্রচুর পরিমাণে সম্মতিবিহীন যৌন উত্তেজক ছবি তৈরি করছে, যার ফলে X ঘোষণা করে যে ছবি তৈরি এবং সম্পাদনার সুবিধা শুধুমাত্র অর্থ প্রদানকারী গ্রাহকদের জন্য সীমাবদ্ধ থাকবে।

কিছু ব্যবহারকারীকে দেখানো বার্তা অনুসারে, "ছবি তৈরি এবং সম্পাদনা বর্তমানে শুধুমাত্র অর্থ প্রদানকারী গ্রাহকদের জন্য সীমাবদ্ধ," এবং সাবস্ক্রাইব করার জন্য একটি লিঙ্ক দেওয়া হয়েছে। তবে, The Verge কর্তৃক উল্লিখিত এবং Ars Technica কর্তৃক যাচাইকৃত, সাবস্ক্রাইব না করা ব্যবহারকারীরাও এখনও Grok ব্যবহার করে ছবি সম্পাদনা করতে পারে।

এই বিধিনিষেধটি মূলত Grok-কে সরাসরি উত্তর দেওয়ার মাধ্যমে ছবি সম্পাদনা করার চেষ্টাকারী ব্যবহারকারীদের প্রভাবিত করে বলে মনে হচ্ছে। যদিও এই পদ্ধতিটি এখন গ্রাহকদের জন্য সীমাবদ্ধ, বিনামূল্যে ব্যবহারকারীরা এখনও ডেস্কটপ সাইটের মাধ্যমে অথবা X অ্যাপের মধ্যে ছবিগুলির উপর দীর্ঘক্ষণ ধরে চেপে ধরে ছবি সম্পাদনার বৈশিষ্ট্যগুলি ব্যবহার করতে পারে। এটি তাদের Grok-কে প্রকাশ্যে অনুরোধ না করে ছবি সম্পাদনা করতে এবং আউটপুটগুলিকে পাবলিক ফিড থেকে দূরে রাখতে দেয়।

এই পরিস্থিতি AI-চালিত প্ল্যাটফর্মগুলিতে কন্টেন্ট (content) moderatio-এর চ্যালেঞ্জগুলিকে তুলে ধরে। Grok, অন্যান্য বৃহৎ ভাষা মডেলের (LLM) মতো, বিশাল ডেটাসেট (dataset) থেকে শেখে, যার মধ্যে অজান্তেই পক্ষপাতদুষ্ট এবং ক্ষতিকারক বিষয়বস্তু অন্তর্ভুক্ত থাকতে পারে। যখন ব্যবহারকারীরা এই মডেলগুলিকে ছবি তৈরি বা ম্যানিপুলেট (manipulate) করতে অনুরোধ করে, তখন ফলাফলগুলি ডিপফেক (deepfake) তৈরি করতে, ভুল তথ্য ছড়াতে বা আপত্তিজনক বিষয়বস্তু তৈরি করতে অপব্যবহার করা যেতে পারে।

এই ঘটনাটি AI চ্যাটবটগুলির (chatbot) আনুষ্ঠানিক কোম্পানির মুখপাত্র হিসাবে ভূমিকা নিয়েও প্রশ্ন তোলে। পেওয়ালের প্রাথমিক প্রতিবেদনগুলি Grok-এর নিজস্ব বিবৃতির উপর ভিত্তি করে তৈরি হয়েছিল, যা পরে ভুল প্রমাণিত হয়েছে। এটি AI উৎস থেকে আসা তথ্য যাচাই করার এবং সেগুলোকে চূড়ান্ত কর্তৃপক্ষ হিসেবে বিবেচনা না করার গুরুত্বের উপর জোর দেয়।

X কর্তৃক বাস্তবায়িত আংশিক পেওয়াল Grok-এর ছবি সম্পাদনার ক্ষমতার অপব্যবহার মোকাবিলার একটি প্রচেষ্টা। তবে, বিনামূল্যে ব্যবহারকারীরা এখনও বিকল্প পদ্ধতির মাধ্যমে সরঞ্জামটি ব্যবহার করতে পারার কারণে বোঝা যায় যে এই পদক্ষেপটি সম্পূর্ণরূপে কার্যকর নয়। ক্ষতিকারক ছবি তৈরি প্রতিরোধ করতে X আরও বিধিনিষেধ আরোপ করবে নাকি আরও শক্তিশালী কন্টেন্ট মডারেশন কৌশল তৈরি করবে, তা দেখার বিষয়। কোম্পানিটি এখনও এই বিষয়ে কোনো আনুষ্ঠানিক বিবৃতি প্রকাশ করেনি।