যুক্তরাজ্য-ভিত্তিক একটি দাতব্য সংস্থা, ইন্টারনেট ওয়াচ ফাউন্ডেশন (IWF) অনলাইনে শিশু যৌন নির্যাতনমূলক চিত্র চিহ্নিতকরণ এবং অপসারণের উপর দৃষ্টি নিবদ্ধ করে, এমন কিছু চিত্র খুঁজে পাওয়ার কথা জানিয়েছে যা এলন মাস্কের xAI দ্বারা তৈরি কৃত্রিম বুদ্ধিমত্তা মডেল Grok দ্বারা "তৈরি হয়েছে বলে মনে হয়"। IWF ছবিগুলোকে চিহ্নিত করেছে, যা AI-এর ছবি তৈরি করার ক্ষমতা নিয়ে তদন্তের সূচনা করেছে এবং উন্নত AI প্রযুক্তির অপব্যবহারের সম্ভাবনা সম্পর্কে উদ্বেগ বাড়িয়েছে।

IWF-এর এই আবিষ্কার ক্ষতিকর কনটেন্ট তৈরি করার জন্য AI সিস্টেমগুলোকে কাজে লাগানো থেকে বিরত রাখার ক্রমবর্ধমান চ্যালেঞ্জকে তুলে ধরে। Grok, যা হাস্যরস এবং বিদ্রোহী মনোভাবের উপর মনোযোগ দিয়ে একটি কথোপকথনমূলক AI হিসাবে ডিজাইন করা হয়েছে, এটি টেক্সট এবং কোডের একটি বিশাল ডেটাসেটের উপর প্রশিক্ষিত একটি বৃহৎ ভাষা মডেলের (LLM) উপর ভিত্তি করে তৈরি। LLM তাদের প্রশিক্ষণ ডেটার মধ্যে নিদর্শন এবং সম্পর্ক সনাক্ত করে নতুন কনটেন্ট তৈরি করতে শেখে। এই প্রক্রিয়াটি শক্তিশালী হলেও, সঠিকভাবে সুরক্ষিত না করা হলে অনিচ্ছাকৃতভাবে এমন আউটপুট তৈরি করতে পারে যা নৈতিক বা আইনি সীমানা লঙ্ঘন করে।

xAI এখনও পর্যন্ত IWF-এর আবিষ্কার সম্পর্কে কোনো আনুষ্ঠানিক বিবৃতি প্রকাশ করেনি। তবে, এই ঘটনাটি ছবি তৈরি করতে সক্ষম AI মডেলগুলোর জন্য শক্তিশালী সুরক্ষা ব্যবস্থা এবং কনটেন্ট নিরীক্ষণ কৌশলগুলোর গুরুত্বের উপর জোর দেয়। এই ব্যবস্থাগুলোতে সাধারণত ক্ষতিকর কনটেন্ট অপসারণের জন্য প্রশিক্ষণ ডেটা ফিল্টার করা, নির্দিষ্ট ধরণের ছবি তৈরি করা থেকে বিরত রাখার জন্য সুরক্ষা ব্যবস্থা প্রয়োগ করা এবং আউটপুট নিরীক্ষণ ও সম্ভাব্য লঙ্ঘন চিহ্নিত করার জন্য মানব পর্যালোচকদের ব্যবহারসহ বিভিন্ন কৌশলের সংমিশ্রণ জড়িত।

ইন্টারনেট ওয়াচ ফাউন্ডেশনের সিইও সুসি হারগ্রিভস ওবিই, প্রেসের কাছে দেওয়া এক বিবৃতিতে বলেছেন, "বাস্তবসম্মত ছবি তৈরি করার জন্য AI-এর ক্ষমতা অনলাইন সুরক্ষার জন্য একটি গুরুত্বপূর্ণ চ্যালেঞ্জ তৈরি করেছে।" "AI ডেভেলপারদের অবশ্যই সুরক্ষাকে অগ্রাধিকার দিতে হবে এবং শিশু যৌন নির্যাতনমূলক উপাদান তৈরি ও বিস্তার রোধে কার্যকর ব্যবস্থা নিতে হবে।"

এই ঘটনাটি AI ডেভেলপারদের তাদের প্রযুক্তির সাথে সম্পর্কিত ঝুঁকিগুলো হ্রাস করার দায়িত্ব সম্পর্কে বৃহত্তর প্রশ্নও উত্থাপন করে। AI মডেলগুলো যত বেশি অত্যাধুনিক এবং সহজলভ্য হচ্ছে, অপব্যবহারের সম্ভাবনাও তত বাড়ছে, যার জন্য ডেভেলপার, নীতিনির্ধারক এবং নাগরিক সমাজের সংস্থাগুলোর সমন্বিত এবং সক্রিয় পদক্ষেপ প্রয়োজন।

Grok-এর উন্নয়ন AI শিল্পে আরও শক্তিশালী এবং বহুমুখী AI মডেল তৈরির একটি বৃহত্তর প্রবণতার অংশ। Grok বর্তমানে X Premium+-এর গ্রাহকদের জন্য উপলব্ধ, যা X-এর সাবস্ক্রিপশন সার্ভিসের সর্বোচ্চ স্তর। এই মডেলটি একটি কথোপকথনমূলক ভঙ্গিতে প্রশ্নের উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে এবং এটি ব্যবহারকারীদের বিস্তৃত বিষয়ে তথ্য এবং সহায়তা প্রদান করতে সক্ষম।

IWF-এর প্রতিবেদনটি সম্ভবত AI ছবি তৈরি করার প্রযুক্তিগুলোর আরও কঠোর নিরীক্ষণের দিকে পরিচালিত করবে এবং কঠোর নিয়মকানুন ও শিল্প মানদণ্ডের জন্য আহ্বান জানাতে পারে। এই ঘটনাটি AI-এর সাথে সম্পর্কিত সম্ভাব্য ঝুঁকিগুলোর কথা মনে করিয়ে দেয় এবং এর উন্নয়ন ও বাস্তবায়নে সুরক্ষা ও নৈতিক বিষয়গুলোকে অগ্রাধিকার দেওয়ার গুরুত্বের উপর জোর দেয়। তদন্ত চলছে, এবং xAI এবং অন্যান্য অংশীদাররা এই সমস্যাটি সমাধান করার সাথে সাথে আরও বিস্তারিত তথ্য প্রকাশিত হবে বলে আশা করা হচ্ছে।