ইলন মাস্কের এআই কোম্পানি, এক্স.এআই, গ্রোকের ইমেজ জেনারেশন ফিচারের অ্যাক্সেস এক্স প্ল্যাটফর্মে শুধুমাত্র পেইড সাবস্ক্রাইবারদের জন্য সীমাবদ্ধ করেছে, এই টুলের অপব্যবহার নিয়ে ব্যাপক সমালোচনার পর। শুক্রবার ব্যবহারকারীদের জবাবে এই সীমাবদ্ধতার ঘোষণা করা হয়, যেখানে ইমেজ জেনারেশন এবং এডিটিংয়ের সুবিধা শুধুমাত্র পেইড সাবস্ক্রাইবারদের জন্য সীমিত করা হয়েছে।

এই পদক্ষেপটি নেওয়া হয়েছে এআই ইমেজ-জেনারেশন ফিচারটির অপব্যবহারের পর, যা প্রাথমিকভাবে দৈনিক লিমিটের সাথে সকল ব্যবহারকারীর জন্য উপলব্ধ ছিল। এই ফিচার ব্যবহার করে নারী, শিশু, অভিনেতা, মডেল এবং পাবলিক ফিগারদের সম্মতি ছাড়াই যৌন উত্তেজক ছবি তৈরি করা হচ্ছিল, যা আন্তর্জাতিক ক্ষোভের জন্ম দেয়। ব্যবহারকারীরা ব্যক্তিদের ছবি আপলোড করে এআইকে যৌন উত্তেজক বা নগ্ন সংস্করণ তৈরি করতে প্ররোচিত করতে পারছিল।

এক্স এবং মাস্ক প্রকাশ্যে এই টুলের অপব্যবহারের নিন্দা করেছেন, এবং অবৈধ কন্টেন্টের বিরুদ্ধে কোম্পানির নীতিগুলি প্রয়োগ করার প্রতিশ্রুতি পুনর্ব্যক্ত করেছেন। এক্স জানিয়েছে, "যে কেউ গ্রোক ব্যবহার করে অবৈধ কন্টেন্ট তৈরি করবে, তারা অবৈধ কন্টেন্ট আপলোড করার মতোই পরিণতি ভোগ করবে।"

এই নিষেধাজ্ঞা বর্তমানে গ্রোক অ্যাপের ক্ষেত্রে প্রযোজ্য নয়, যেখানে এই প্রতিবেদন লেখা পর্যন্ত সকল ব্যবহারকারী পেইড সাবস্ক্রিপশন ছাড়াই ছবি তৈরি করতে পারতেন। এই অসঙ্গতি বিভিন্ন প্ল্যাটফর্মে কন্টেন্ট মডারেশন ব্যবস্থাপনার জন্য এক্স.এআই-এর কৌশল সম্পর্কে প্রশ্ন তোলে।

এই ঘটনাটি এআই ইমেজ জেনারেশন টুলগুলি দায়িত্বশীলতার সাথে ব্যবহারের ক্ষেত্রে চ্যালেঞ্জগুলো তুলে ধরে। এই টুলগুলি সৃজনশীল সম্ভাবনা প্রদান করলেও, এগুলোর অপব্যবহারের ঝুঁকিও রয়েছে, যার মধ্যে রয়েছে ডিপফেক তৈরি, সম্মতিবিহীন পর্নোগ্রাফি এবং অন্যান্য ক্ষতিকর কন্টেন্ট তৈরি। এই ঘটনাটি এআই-উত্পাদিত কন্টেন্ট নিয়ন্ত্রণে সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলোর ভূমিকা এবং বর্তমান কন্টেন্ট মডারেশন নীতিগুলোর কার্যকারিতা নিয়েও প্রশ্ন তোলে।

পেইড সাবস্ক্রাইবারদের জন্য অ্যাক্সেস সীমাবদ্ধ করার সিদ্ধান্তটিকে এক্স.এআই কর্তৃক টুলের ব্যবহার এবং অপব্যবহারের ঝুঁকি কমাতে বৃহত্তর নিয়ন্ত্রণ প্রতিষ্ঠার একটি উপায় হিসেবে দেখা যেতে পারে। একটি ছোট, অর্থ প্রদানকারী ব্যবহারকারী গোষ্ঠীর মধ্যে অ্যাক্সেস সীমাবদ্ধ করে, কোম্পানি সম্ভবত আরও কার্যকরভাবে তৈরি করা কন্টেন্ট নিরীক্ষণ এবং নিয়ন্ত্রণ করতে পারবে। তবে, এটি অ্যাক্সেসযোগ্যতা নিয়েও উদ্বেগ সৃষ্টি করে এবং এই ধরনের বিধিনিষেধ নির্দিষ্ট ব্যবহারকারী গোষ্ঠীর উপর disproportionately প্রভাব ফেলবে কিনা, সেই প্রশ্নও জাগে।

এআই ইমেজ জেনারেশন টুলগুলোর গ্রহণ এবং বিকাশের উপর এই সিদ্ধান্তের দীর্ঘমেয়াদী প্রভাব এখনও দেখার বিষয়। এই ঘটনাটি অনুরূপ প্রযুক্তি তৈরি করা অন্যান্য কোম্পানিগুলোর জন্য একটি সতর্কবার্তা, যা এআই-চালিত সরঞ্জামগুলোর নকশা এবং স্থাপনার ক্ষেত্রে শক্তিশালী সুরক্ষা এবং নৈতিক বিবেচনার প্রয়োজনীয়তার উপর জোর দেয়। গ্রোকের ইমেজ জেনারেশন ফিচারের অপব্যবহারের কারণে সৃষ্ট সমস্যাগুলো মোকাবেলার জন্য এক্স.এআই এখনও পর্যন্ত কোনো ভবিষ্যৎ পরিকল্পনার ঘোষণা করেনি।