ফোরাম স্ক্রল করার সময় সারাহর মেরুদণ্ড বেয়ে একটা ঠান্ডা স্রোত নেমে গেল। এটা ইন্টারনেটের সেই পরিচিত অন্ধকার জগৎ নয়, যা সে সাধারণত নজরে রাখে। এটা অন্যরকম। এগুলো অপেশাদার ডিপফেক তৈরির চেষ্টা নয়; এগুলো গ্রোক (Grok), ইলন মাস্কের এআই চ্যাটবট দ্বারা তৈরি করা অতি-বাস্তববাদী, উদ্বেগজনকভাবে গ্রাফিক ভিডিও। শেয়ার করা লিঙ্কের মাধ্যমে সহজেই পাওয়া যাওয়া ছবিগুলো গ্রোকের মাধ্যমে X-এ যা দেখা যায়, তার থেকেও অনেক বেশি কিছু দেখাচ্ছে, যেখানে গ্রোককে উন্নত করার কথা ছিল। ডিজিটাল সুরক্ষা বিষয়ক পরামর্শদাতা সারাহ জানত, এটা শুধু চমক দেওয়ার বিষয় নয়; এটা বাস্তব জগতে ক্ষতির কারণ হতে পারে।

উৎপাদনশীল এআই-এর উত্থান উল্কার মতো। গ্রোকের মতো সরঞ্জাম, অত্যাধুনিক অ্যালগরিদম দ্বারা চালিত, এখন সাধারণ টেক্সট প্রম্পট থেকে ছবি এবং ভিডিও তৈরি করতে পারে। এই প্রযুক্তি, যেখানে সৃজনশীলতা এবং উদ্ভাবনের বিশাল সম্ভাবনা রয়েছে, সেখানে এর একটি অন্ধকার দিকও রয়েছে। গ্রোকের "ইমাজিন" মডেল, যা এর ওয়েবসাইট এবং অ্যাপের মাধ্যমে অ্যাক্সেস করা যায়, ব্যবহারকারীদের ব্যক্তিগতভাবে ভিজ্যুয়াল কনটেন্ট তৈরি করতে দেয়। X-এ গ্রোকের আউটপুটগুলোর বিপরীতে, যা কিছু স্তরের জনসাধারণের পর্যবেক্ষণের অধীন, এই সৃষ্টিগুলো আরও নির্জন স্থানে বিদ্যমান, যা জবাবদিহিতা এবং তত্ত্বাবধান নিয়ে উদ্বেগ বাড়ায়।

সমস্যাটা শুধু যৌন উত্তেজক কনটেন্টের অস্তিত্ব নয়। সমস্যা হলো গ্রাফিক ডিটেইলের মাত্রা, সম্মতিবিহীন চিত্র তৈরির সম্ভাবনা এবং অপ্রাপ্তবয়স্কদের শোষণ বা যৌনীকরণ করার সম্ভাবনা। গুগল কর্তৃক ইন্ডেক্স করা অথবা ডিপফেক পর্ন ফোরামে শেয়ার করা প্রায় ১,২০০ ইমাজিন লিঙ্কের একটি ক্যাশে, সেইসাথে WIRED-এর একটি পর্যালোচনায় দেখা গেছে যে গ্রোকের মাধ্যমে X-এ তৈরি করা ছবিগুলোর চেয়েও অনেক বেশি স্পষ্ট ভিডিও সেখানে রয়েছে। এটি এআই-কে খারাপ উদ্দেশ্যে ব্যবহার করা থেকে আটকাতে কী কী সুরক্ষা ব্যবস্থা নেওয়া হয়েছে, সে সম্পর্কে গুরুতর প্রশ্ন তোলে।

স্ট্যানফোর্ড ইউনিভার্সিটির এআই এথিক্স গবেষক ডঃ এমিলি কার্টার বলেন, "এই প্রযুক্তিগুলো যে গতিতে বিকশিত হচ্ছে, তা আমাদের বোঝার এবং নিয়ন্ত্রণ করার ক্ষমতাকে ছাড়িয়ে যাচ্ছে।" "উৎপাদনশীল এআই-এর নৈতিক প্রভাব এবং কীভাবে আমরা এটি দায়িত্বের সাথে ব্যবহার করা নিশ্চিত করতে পারি, সে সম্পর্কে আমাদের একটি গুরুতর আলোচনা করা দরকার।" ডঃ কার্টার এআই বিকাশে স্বচ্ছতা এবং জবাবদিহিতার ওপর জোর দেন। "কোম্পানিগুলোকে তাদের মডেলগুলোর সীমাবদ্ধতা এবং অপব্যবহার রোধে তারা কী পদক্ষেপ নিচ্ছে, সে সম্পর্কে খোলাখুলিভাবে জানাতে হবে।"

এই সমস্যা শুধু গ্রোকের মধ্যেই সীমাবদ্ধ নয়। অন্যান্য এআই ইমেজ জেনারেটরগুলোও একই ধরনের চ্যালেঞ্জের সম্মুখীন হচ্ছে। অন্তর্নিহিত সমস্যা হলো ক্ষতিকর নয় এবং ক্ষতিকর কনটেন্টের মধ্যে পার্থক্য করতে এআই মডেলগুলোকে প্রশিক্ষণ দেওয়া কঠিন। এআই মডেলগুলো ছবি এবং টেক্সটের বিশাল ডেটাসেট থেকে শেখে, এবং এই ডেটাসেটগুলোতে পক্ষপাতদুষ্ট বা অনুপযুক্ত উপাদান থাকলে, এআই অনিবার্যভাবে তার আউটপুটে সেই পক্ষপাতগুলো প্রতিফলিত করবে।

সমাজের জন্য এর প্রভাব সুদূরপ্রসারী। এআই-উত্পাদিত যৌন কনটেন্টের বিস্তার শোষণকে স্বাভাবিক করতে পারে, নারীদের পণ্য হিসেবে দেখানোর ক্ষেত্রে অবদান রাখতে পারে এবং এমনকি বাস্তব জগতে সহিংসতাও বাড়াতে পারে। সম্মতিবিহীন ডিপফেক তৈরি করার সম্ভাবনাও ব্যক্তিদের গোপনীয়তা এবং খ্যাতির জন্য একটি উল্লেখযোগ্য হুমকি।

সারাহ যখন তার তদন্ত চালিয়ে যাচ্ছিল, তখন সে বুঝতে পারল যে এটা কেবল হিমশৈলের চূড়া। প্রযুক্তি দ্রুত বিকশিত হচ্ছে, এবং এটিকে নিয়ন্ত্রণ করার চ্যালেঞ্জগুলো আরও জটিল হতে চলেছে। প্রযুক্তিগত সুরক্ষা, নৈতিক নির্দেশিকা এবং আইনি কাঠামো সহ একটি বহুমাত্রিক পদ্ধতির প্রয়োজনীয়তা আগের চেয়ে আরও বেশি জরুরি। এআই-এর ভবিষ্যৎ আমাদের এটিকে দায়িত্বের সাথে ব্যবহার করার ক্ষমতার ওপর নির্ভর করে, যাতে এটি মানবতাকে শোষণ না করে বরং তার সেবা করে।