যুক্তরাজ্য-ভিত্তিক একটি দাতব্য সংস্থা, ইন্টারনেট ওয়াচ ফাউন্ডেশন (IWF) অনলাইনে শিশু যৌন নির্যাতনমূলক ছবি চিহ্নিতকরণ এবং অপসারণের উপর দৃষ্টি নিবদ্ধ করে, এমন কিছু ছবি খুঁজে পাওয়ার কথা জানিয়েছে যা ইলন মাস্কের xAI দ্বারা তৈরি করা কৃত্রিম বুদ্ধিমত্তা মডেল Grok দ্বারা "তৈরি হয়েছে বলে মনে করা হচ্ছে"। IWF, যারা অবৈধ কনটেন্টগুলিতে প্রবেশাধিকার আটকাতে ইন্টারনেট পরিষেবা প্রদানকারী এবং সামাজিক মাধ্যম প্ল্যাটফর্মগুলির সাথে কাজ করে, তাদের নিয়মিত নিরীক্ষণ কার্যক্রমের সময় এই আবিষ্কারটি করেছে।

সম্ভাব্য শিকারদের সুরক্ষা এবং সামগ্রীর আরও বিস্তার এড়ানোর প্রয়োজনীয়তার কথা উল্লেখ করে IWF ছবিগুলির সংখ্যা বা তাদের সঠিক প্রকৃতি সম্পর্কে কোনও নির্দিষ্ট তথ্য প্রকাশ করেনি। তবে, একজন মুখপাত্র নিশ্চিত করেছেন যে ছবিগুলিকে সম্ভাব্য এআই-উত্পাদিত শিশু যৌন নির্যাতনমূলক উপাদান (CSAM) হিসাবে চিহ্নিত করা হয়েছে। মুখপাত্র বলেন, "আমাদের বিশ্লেষণ থেকে মনে হয় এই ছবিগুলি তৈরিতে এআই-এর একটি উচ্চ সম্ভাবনা রয়েছে।" "এআই যে গতি এবং মাত্রায় এই ধরনের কনটেন্ট তৈরি করতে পারে, তা অনলাইনে শিশুদের সুরক্ষার জন্য আমাদের প্রচেষ্টায় একটি উল্লেখযোগ্য চ্যালেঞ্জ তৈরি করেছে।"

Grok, ২০২৩ সালের নভেম্বরে চালু হয়েছে, এটি একটি বৃহৎ ভাষা মডেল (LLM) যা টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে এবং কথোপকথনমূলক পদ্ধতিতে প্রশ্নের উত্তর দিতে ডিজাইন করা হয়েছে। এটি বর্তমানে X-এর সাবস্ক্রিপশন পরিষেবার সর্বোচ্চ স্তর X Premium+-এর গ্রাহকদের জন্য উপলব্ধ। Grok X, পূর্বে টুইটার থেকে রিয়েল-টাইম তথ্য অ্যাক্সেস করার এবং এর "বিদ্রোহী" এবং হাস্যরসপূর্ণ সুরের মাধ্যমে অন্যান্য LLM থেকে নিজেকে আলাদা করে। xAI এখনও Grok-এর আর্কিটেকচার বা প্রশিক্ষণ ডেটা সম্পর্কে বিস্তারিত প্রযুক্তিগত বিবরণ প্রকাশ করেনি।

এআই-উত্পাদিত CSAM-এর উত্থান প্রযুক্তি শিল্প এবং শিশু সুরক্ষা আইনজীবীদের মধ্যে একটি ক্রমবর্ধমান উদ্বেগের বিষয়। বিশেষজ্ঞরা সতর্ক করেছেন যে এআই যে সহজে এবং দ্রুততার সাথে বাস্তবসম্মত এবং শোষণমূলক ছবি তৈরি করতে পারে, তা বিদ্যমান সনাক্তকরণ এবং অপসারণ ব্যবস্থাকে ছাপিয়ে যেতে পারে। CSAM সনাক্তকরণের বর্তমান পদ্ধতিগুলি প্রায়শই ডিজিটাল ফিঙ্গারপ্রিন্টিং এবং মানুষের পর্যালোচনার উপর নির্ভর করে, এই কৌশলগুলি এআই-উত্পাদিত কনটেন্টের দ্রুত বিস্তারের সাথে তাল মিলিয়ে চলতে সমস্যা হতে পারে।

অক্সফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্সের বিশেষজ্ঞ গবেষক ডঃ এমিলি কার্টার বলেন, "এটি একটি গুরুত্বপূর্ণ মুহূর্ত"। "আমরা দীর্ঘদিন ধরে এইভাবে এআই-এর অপব্যবহারের সম্ভাবনা অনুমান করেছি, এবং এখন আমরা এর বাস্তব প্রমাণ দেখতে পাচ্ছি। এআই-উত্পাদিত CSAM তৈরি এবং বিস্তার রোধ করতে শিল্পের উচিত শক্তিশালী সুরক্ষা ব্যবস্থা তৈরি করাকে অগ্রাধিকার দেওয়া।"

IWF-এর കണ്ടെത്തব্য সম্পর্কে xAI এখনও কোনও আনুষ্ঠানিক বিবৃতি জারি করেনি। তবে, ইলন মাস্ক এর আগে বলেছিলেন যে xAI দায়িত্বশীল এবং নৈতিকভাবে এআই বিকাশের জন্য প্রতিশ্রুতিবদ্ধ। Grok-কে CSAM তৈরি করতে ব্যবহার করার সম্ভাবনা মোকাবিলা করার জন্য xAI কী কী নির্দিষ্ট পদক্ষেপ নেবে, তা এখনও দেখার বিষয়। IWF তথ্য সরবরাহ করতে এবং তাদের তদন্তে সহায়তা করতে xAI-এর সাথে কাজ করছে। এই ঘটনাটি এআই ডেভেলপার, আইন প্রয়োগকারী সংস্থা এবং শিশু সুরক্ষা সংস্থাগুলির মধ্যে এআই-উত্পাদিত শিশু যৌন নির্যাতনমূলক উপাদানের ক্রমবর্ধমান হুমকির বিরুদ্ধে লড়াই করার জন্য জরুরিভাবে সহযোগিতার প্রয়োজনীয়তার উপর জোর দেয়।