ইলন মাস্কের এআই কোম্পানি, এক্স.এআই, গ্রোকের এআই ইমেজ জেনারেশন ফিচারের অ্যাক্সেস এক্স প্ল্যাটফর্মের পেইড সাবস্ক্রাইবারদের জন্য সীমাবদ্ধ করেছে। নারীদের এবং শিশুদের যৌন ও নগ্ন ছবি তৈরি করার ক্ষেত্রে এই টুলের অপব্যবহারের ব্যাপক সমালোচনার পরেই এই পদক্ষেপ নেওয়া হয়েছে। শুক্রবার ব্যবহারকারীদের জবাবে এই পরিবর্তনের ঘোষণা করা হয়। এর ফলে ইমেজ জেনারেশন এবং এডিটিংয়ের ক্ষমতা শুধুমাত্র এক্স-এর পেইড সাবস্ক্রাইবারদের মধ্যেই সীমাবদ্ধ থাকবে।

এই নিষেধাজ্ঞা বর্তমানে গ্রোকের স্বতন্ত্র অ্যাপের ক্ষেত্রে প্রযোজ্য নয়। এই প্রতিবেদন লেখা পর্যন্ত, এটি ব্যবহারকারীদের সাবস্ক্রিপশন ছাড়াই ছবি তৈরি করতে দেয়। প্রাথমিকভাবে, ইমেজ জেনারেশন ফিচারটি দৈনিক সীমা সহ সকল ব্যবহারকারীর জন্য উপলব্ধ ছিল। এই সহজলভ্যতার কারণে ব্যবহারকারীরা ব্যক্তিদের ছবি আপলোড করে এআইকে সেগুলো সম্পাদনা করতে বা যৌন বা নগ্ন সংস্করণ তৈরি করতে অনুরোধ করতে পারত, যার ফলে সম্মতিবিহীন ছবির বিস্তার ঘটে।

ফলস্বরূপ শিশু, অভিনেতা, মডেল এবং পাবলিক ফিগারদের আপত্তিকর ছবি আন্তর্জাতিকভাবে সমালোচিত হয়েছে। এক্স এবং মাস্ক প্রকাশ্যে এই টুলের অপব্যবহারের নিন্দা করেছেন এবং জানিয়েছেন যে কোম্পানিটি অবৈধ কন্টেন্টের বিরুদ্ধে তার নীতিগুলি মেনে চলবে। কোম্পানিটি জানিয়েছে, "যেকোনো ব্যক্তি গ্রোক ব্যবহার করে অবৈধ কন্টেন্ট তৈরি করলে, অবৈধ কন্টেন্ট আপলোড করার মতো একই পরিণতি ভোগ করবে।"

এই বিতর্কটি দায়িত্বশীলতার সাথে এআই ইমেজ জেনারেশন টুল ব্যবহারের ক্ষেত্রে চ্যালেঞ্জগুলো তুলে ধরে। গ্রোকের মতো জেনারেটিভ এআই মডেলগুলি বিশাল ডেটাসেটের উপর প্রশিক্ষিত এবং টেক্সট বর্ণনার ভিত্তিতে ছবি তৈরি করতে প্রম্পট করা যেতে পারে। বাস্তবসম্মত এবং সম্ভাব্য ক্ষতিকারক কন্টেন্ট তৈরি করার প্রযুক্তির ক্ষমতার কারণে এর অপব্যবহার নিয়ে উদ্বেগ দেখা দিয়েছে, বিশেষ করে ডিপফেক এবং সম্মতিবিহীন পর্নোগ্রাফি তৈরির ক্ষেত্রে।

পেইড সাবস্ক্রাইবারদের জন্য অ্যাক্সেস সীমাবদ্ধ করার সিদ্ধান্তটি সম্ভবত জবাবদিহিতার একটি স্তর যুক্ত করে অপব্যবহার কমানোর একটি প্রচেষ্টা। পেইড সাবস্ক্রিপশন আবশ্যক করলে কিছু ব্যবহারকারী ক্ষতিকারক কন্টেন্ট তৈরি করা থেকে বিরত থাকতে পারে, কারণ তাদের অ্যাকাউন্ট পেমেন্ট তথ্যের সাথে যুক্ত। তবে, এই পদক্ষেপটি আরও অপব্যবহার রোধ করতে যথেষ্ট হবে কিনা তা দেখার বিষয়।

এই পদক্ষেপটি গ্রোকের ইমেজ জেনারেশন ক্ষমতার ভবিষ্যৎ নিয়েও প্রশ্ন তোলে। যদিও ফিচারটি স্বতন্ত্র অ্যাপে উপলব্ধ রয়েছে, তবে সম্ভবত এক্স.এআই শেষ পর্যন্ত সেই প্ল্যাটফর্মেও সাবস্ক্রিপশন আবশ্যক করবে। কোম্পানিটি এখনও পর্যন্ত এমন কোনো পরিকল্পনা ঘোষণা করেনি। এই ঘটনাটি এআই-এর নৈতিক প্রভাব এবং এর অপব্যবহার রোধে শক্তিশালী সুরক্ষার প্রয়োজনীয়তা নিয়ে চলমান বিতর্ককে তুলে ধরে।