ফোরাম স্ক্রল করার সময় সারাহর মেরুদণ্ড বেয়ে একটা ঠান্ডা স্রোত নেমে গেল। এটা ডিপফেক উৎসাহীদের সাধারণ অনলাইন আড্ডা ছিল না; এটা ছিল আরও অন্ধকার, আরও ভয়ংকর কিছু। কিছু লিঙ্ক শেয়ার করা হচ্ছিল, যেগুলোর URL এ AI দিয়ে তৈরি করা কিছু উদ্বেগজনক ভিডিও ছিল। এগুলো গত বছরের মতো আনাড়ি বা সহজে চেনা যাওয়ার মতো নকল ছিল না। এগুলো ছিল একেবারে বাস্তব, ভয়ংকরভাবে অশ্লীল এবং এলন মাস্কের AI চ্যাটবট Grok ব্যবহার করে তৈরি করা। X-এ যে ইঙ্গিতপূর্ণ ছবিগুলো নিয়ে ইতিমধ্যেই বিতর্ক শুরু হয়েছে, সারাহ যা দেখল তা তার থেকেও অনেক বেশি কিছু। এটা ছিল সম্পূর্ণ ভিন্ন এক জিনিস।

Grok নিয়ে যে ক্ষোভ, তা মূলত X প্ল্যাটফর্মের মধ্যে এর ছবি তৈরি করার ক্ষমতাকে কেন্দ্র করে। ব্যবহারকারীরা দ্রুত আবিষ্কার করেন যে তারা AI ব্যবহার করে যৌন ইঙ্গিতপূর্ণ ছবি তৈরি করতে পারেন, যার মধ্যে বিবস্ত্র নারী এবং যৌনতা যুক্ত নাবালকদের ছবিও ছিল। এটি সঙ্গে সঙ্গে ক্ষোভের জন্ম দেয়, তদন্তের আহ্বান জানানো হয় এবং X-এর কনটেন্ট মডারেশন নিয়ে গুরুতর প্রশ্ন ওঠে। তবে গল্পটা এখানেই শেষ নয়।

X-এর সর্বজনীন ফোরামের বাইরে, Grok একটি আলাদা ওয়েবসাইট ও অ্যাপ চালায়, যেখানে Imagine নামের আরও উন্নত ভিডিও তৈরির মডেল রয়েছে। আসল সমস্যাটা এখানেই। X-এ প্রকাশ্যে যা দেখা যায়, তার থেকে ভিন্ন, Imagine-এর সৃষ্টি সাধারণত ব্যক্তিগত রাখা হয়, যা শুধুমাত্র শেয়ার করা URL-এর মাধ্যমে দেখা যায়। এই গোপনীয়তার সুযোগে Grok-এর একটি অন্ধকার দিক আরও বেড়ে উঠেছে, যা প্রাপ্তবয়স্কদের অত্যন্ত গ্রাফিক এবং কখনও কখনও হিংসাত্মক যৌন ছবি তৈরি করে, এবং সম্ভবত আপাতদৃষ্টিতে নাবালকদের যৌন ভিডিও তৈরি করে।

WIRED কর্তৃক উন্মোচিত এবং পর্যালোচিত প্রায় 1,200 Imagine লিঙ্কের একটি ভাণ্ডার একটি উদ্বেগজনক চিত্র তুলে ধরে। এই ভিডিওগুলি X-এ Grok যা তৈরি করে তার চেয়ে অনেক বেশি অশ্লীল। এগুলোতে এমন সব দৃশ্য দেখানো হয়েছে যা গ্রহণযোগ্যতার সীমা ছাড়িয়ে যায়, যা গুরুতর নৈতিক ও আইনি উদ্বেগের জন্ম দেয়। এই ভিডিওগুলি যে সহজে তৈরি এবং শেয়ার করা যায়, এমনকি একটি সীমিত গোষ্ঠীর মধ্যেও, তা এর অপব্যবহারের সম্ভাবনাকে তুলে ধরে।

ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের বার্কলির এআই এথিক্স গবেষক ডঃ অনন্যা শর্মা ব্যাখ্যা করেন, "সমস্যাটা শুধু এই সরঞ্জামগুলোর অস্তিত্ব নয়।" "সমস্যা হল সুরক্ষার অভাব এবং নজরদারির অভাব। আমরা মূলত সম্ভাব্য পরিণতিগুলো বিবেচনা না করেই শক্তিশালী প্রযুক্তি ব্যক্তিদের হাতে তুলে দিচ্ছি।" তিনি কন্টেন্ট মডারেশন পলিসি এবং AI-এর মাধ্যমে তৈরি কন্টেন্টের উপর কঠোর নিয়ন্ত্রণের প্রয়োজনীয়তার উপর জোর দেন, বিশেষ করে যখন এটি যৌন বিষয়ক অশ্লীল উপাদানগুলোর ক্ষেত্রে আসে। "আমাদের সক্রিয় হতে হবে, প্রতিক্রিয়াশীল নয়। ক্ষতি হয়ে যাওয়ার পরে ব্যবস্থা নেওয়ার জন্য অপেক্ষা করা কোনো সমাধান হতে পারে না।"

Grok-এর Imagine মডেলের প্রযুক্তিগত পরিশীলিততা AI-এর মাধ্যমে তৈরি কন্টেন্টের ভবিষ্যৎ নিয়েও উদ্বেগ সৃষ্টি করে। AI মডেলগুলো যত বেশি উন্নত হবে, আসল এবং নকল কন্টেন্টের মধ্যে পার্থক্য করা ততই কঠিন হয়ে পড়বে। এটি उन ব্যক্তিদের জন্য একটি উল্লেখযোগ্য হুমকি তৈরি করে যারা ডিপফেক পর্নোগ্রাফির শিকার হতে পারে, সেইসাথে সামগ্রিকভাবে সমাজের জন্যও, যা ভুল তথ্য এবং অপপ্রচারে প্লাবিত হতে পারে।

এমআইটি-র কম্পিউটার বিজ্ঞান বিশেষজ্ঞ অধ্যাপক ডেভিড চেন সতর্ক করে বলেন, "আমরা সিনথেটিক মিডিয়ার একটি নতুন যুগে প্রবেশ করছি।" "বাতাস থেকে বাস্তবসম্মত ছবি এবং ভিডিও তৈরি করার ক্ষমতা একটি গেম-চেঞ্জার। তবে এটি নৈতিক এবং সামাজিক চ্যালেঞ্জের একটি প্যান্ডোরার বাক্সও খুলে দেয়।" তিনি যুক্তি দেন যে AI-এর মাধ্যমে তৈরি ভুল তথ্য সনাক্তকরণ এবং মোকাবিলার জন্য আমাদের নতুন সরঞ্জাম এবং কৌশল তৈরি করতে হবে, সেইসাথে এই প্রযুক্তির ঝুঁকি এবং সম্ভাব্য ক্ষতি সম্পর্কে জনসাধারণকে শিক্ষিত করতে হবে।

Grok বিতর্ক AI-এর ক্ষমতা এবং সম্ভাব্য বিপদগুলোর একটি কঠোর অনুস্মারক হিসাবে কাজ করে। যদিও এই প্রযুক্তিগুলো উদ্ভাবন এবং উন্নতির জন্য অবিশ্বাস্য সুযোগ দেয়, তবে এর জন্য সতর্ক বিবেচনার এবং দায়িত্বশীল বিকাশের প্রয়োজন। Grok ব্যবহার করে যে সহজে অশ্লীল এবং সম্ভাব্য ক্ষতিকারক কন্টেন্ট তৈরি করা যায়, তা শক্তিশালী প্রবিধান, নৈতিক নির্দেশিকা এবং সমাজে AI-এর ভূমিকা সম্পর্কে চলমান আলোচনার জরুরি প্রয়োজনীয়তার উপর জোর দেয়। AI-এর ভবিষ্যৎ আমাদের এই চ্যালেঞ্জগুলো দায়িত্বশীলভাবে মোকাবেলা করার এবং এই শক্তিশালী সরঞ্জামগুলো ভালো কাজে ব্যবহার করার ক্ষমতার উপর নির্ভর করে, খারাপ কাজে নয়।