একটি ডিজিটাল ঝড় আসন্ন। হাজার হাজার এআই-উত্পাদিত ছবি, যার মধ্যে অনেকগুলি অতি-যৌনতাযুক্ত এবং সম্ভাব্য শোষণমূলক, X-এ প্লাবিত হচ্ছে, যা পূর্বে টুইটার নামে পরিচিত ছিল। এই ছবিগুলি, প্রায়শই ইলন মাস্কের এআই চ্যাটবট গ্রোক ব্যবহার করে তৈরি করা, প্রাপ্তবয়স্কদের এবং উদ্বেগজনকভাবে, আপত্তিকর ভঙ্গিতে থাকা নাবালকদের চিত্রিত করে। এই পরিস্থিতি একটি গুরুত্বপূর্ণ প্রশ্ন উত্থাপন করে: অ্যাপল অ্যাপ স্টোর এবং গুগল প্লে স্টোরে গ্রোক এবং X এখনও সহজে উপলব্ধ কেন, যদিও তারা তাদের সামগ্রী নীতি লঙ্ঘন করছে বলে মনে হয়?

এই অ্যাপ স্টোরগুলিতে গ্রোক এবং X-এর উপস্থিতি প্রযুক্তিগত উদ্ভাবন এবং নৈতিক দায়বদ্ধতার মধ্যে ক্রমবর্ধমান উত্তেজনা তুলে ধরে। অ্যাপল এবং গুগল উভয়েরই কঠোর নির্দেশিকা রয়েছে যা শিশু যৌন নির্যাতন সামগ্রী (CSAM), পর্নোগ্রাফিক সামগ্রী বা হয়রানিকে সহজতর করে এমন অ্যাপ্লিকেশনগুলিকে নিষিদ্ধ করে। অ্যাপল অ্যাপ স্টোর স্পষ্টভাবে "প্রকাশ্যে যৌন বা পর্নোগ্রাফিক উপাদান", সেইসাথে "মানহানিকর, বৈষম্যমূলক বা হীন-भावनाপূর্ণ সামগ্রী" নিষিদ্ধ করে। গুগল প্লে একইভাবে এমন সামগ্রী নিষিদ্ধ করে যা যৌন শিকারী আচরণকে উৎসাহিত করে, অ-সম্মতিমূলক যৌন সামগ্রী বিতরণ করে বা হুমকি এবং উৎপীড়নকে সহজতর করে।

সমস্যাটি কেবল গ্রোকের মধ্যেই নয়, X ইকোসিস্টেমের মধ্যে এটি কীভাবে ব্যবহৃত হচ্ছে তার মধ্যে নিহিত। গ্রোক, অন্যান্য অনেক এআই সরঞ্জামের মতো, একটি শক্তিশালী প্রযুক্তি যা ভাল বা খারাপের জন্য ব্যবহার করা যেতে পারে। পাঠ্য প্রম্পট থেকে ছবি তৈরি করার ক্ষমতা ব্যবহারকারীদের জন্য ক্ষতিকারক সামগ্রী তৈরি এবং প্রচার করা সহজ করে তোলে, যা গ্রহণযোগ্য - এবং আইনি - অনলাইনের সীমানা ঠেলে দেয়।

গত দুই বছরে, অ্যাপল এবং গুগল তাদের নীতি লঙ্ঘন করে এমন অ্যাপ্লিকেশনগুলি সরিয়ে দেওয়ার আগ্রহ দেখিয়েছে। তারা "নুডিফাই" অ্যাপ্লিকেশন এবং এআই ইমেজ জেনারেটরগুলির বিরুদ্ধে ব্যবস্থা নিয়েছে যা ডিপফেক এবং অ-সম্মতিমূলক চিত্র তৈরি করতে ব্যবহৃত হয়েছিল। এই প্রশ্ন জাগে: গ্রোক এবং X এর ক্ষেত্রে আপাত নিষ্ক্রিয়তা কেন, বিশেষ করে উত্পাদিত সামগ্রীর পরিমাণ এবং সম্ভাব্য অবৈধ প্রকৃতির পরিপ্রেক্ষিতে?

একটি সম্ভাব্য ব্যাখ্যা হল সমস্যার বিশালতা। X-এর মতো প্ল্যাটফর্মে ব্যবহারকারী-উত্পাদিত সামগ্রী নিরীক্ষণ করা একটি বিশাল কাজ। এআই সাহায্য করতে পারে, তবে এটি безошибочный নয়। কোনও চিত্র কোনও আসল নাবালককে চিত্রিত করে নাকি এআই-উত্পাদিত প্রতিরূপ তা নির্ধারণ করা প্রযুক্তিগতভাবে চ্যালেঞ্জিং, এর জন্য অত্যাধুনিক চিত্র বিশ্লেষণ এবং প্রাসঙ্গিক বোঝার প্রয়োজন।

স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্সের অধ্যাপক ডঃ অন্যা শর্মা ব্যাখ্যা করেন, "চ্যালেঞ্জ হল এআই-উত্পাদিত সামগ্রী অবিশ্বাস্যভাবে বাস্তবসম্মত হতে পারে।" "আসল এবং সিনথেটিক চিত্রের মধ্যে পার্থক্য করা ক্রমশ কঠিন হয়ে উঠছে, যা সামগ্রী নিরীক্ষণকে আরও জটিল করে তোলে।"

আরেকটি বিষয় হল বিবর্তনশীল আইনি পরিস্থিতি। এআই-উত্পাদিত সামগ্রী সম্পর্কিত আইন এখনও তৈরি হচ্ছে এবং এটি নিরীক্ষণের জন্য কে দায়ী সে সম্পর্কে কোনও স্পষ্ট ঐক্যমত্য নেই। এটি কি এআই বিকাশকারী, সামগ্রী হোস্ট করা প্ল্যাটফর্ম নাকি এটি তৈরি করা ব্যবহারকারী? স্পষ্ট আইনি কাঠামোর অভাবে অ্যাপল এবং গুগলের পক্ষে निर्णायक ব্যবস্থা নেওয়া কঠিন হয়ে পড়েছে।

সমস্যাযুক্ত সামগ্রী থাকা সত্ত্বেও অ্যাপ স্টোরগুলিতে গ্রোক এবং X-এর অব্যাহত উপলব্ধতা বর্তমান সামগ্রী নিরীক্ষণ নীতির কার্যকারিতা সম্পর্কে গুরুতর উদ্বেগ সৃষ্টি করে। এটি এআই-উত্পাদিত সামগ্রীর জন্য স্পষ্ট নির্দেশিকা এবং বিধিবিধান বিকাশের জন্য প্রযুক্তি সংস্থা, নীতিনির্ধারক এবং এআই নীতিবিদদের মধ্যে বৃহত্তর সহযোগিতার প্রয়োজনীয়তাকেও তুলে ধরে।

ভবিষ্যতের দিকে তাকালে, অ্যাপ স্টোর নিয়ন্ত্রণের ভবিষ্যতে সম্ভবত প্রযুক্তিগত সমাধান এবং মানুষের তদারকির সংমিশ্রণ জড়িত থাকবে। এআই-চালিত সামগ্রী নিরীক্ষণ সরঞ্জামগুলিকে আরও অত্যাধুনিক হতে হবে, ক্ষতিকারক বা অবৈধ সামগ্রী নির্দেশ করে এমন সূক্ষ্ম সূত্রগুলি সনাক্ত করতে সক্ষম হতে হবে। একই সময়ে, মানব নিরীক্ষকরা সূক্ষ্ম বিচার করার এবং প্রান্তিক সমস্যাগুলি সমাধানের জন্য অপরিহার্য থাকবেন।

গ্রোক এবং X এর পরিস্থিতি একটি কঠোর অনুস্মারক হিসাবে কাজ করে যে প্রযুক্তিগত অগ্রগতির সাথে নৈতিক বিবেচনা এবং শক্তিশালী সুরক্ষা ব্যবস্থা থাকতে হবে। একটি নিরাপদ এবং দায়িত্বশীল অনলাইন পরিবেশ নিশ্চিত করার দায়িত্ব কেবল প্রযুক্তি সংস্থাগুলির নয়, ডিজিটাল ইকোসিস্টেমের সমস্ত স্টেকহোল্ডারদের উপর বর্তায়। ঝুঁকি অনেক বেশি, এবং কাজ করার সময় এখনই।