যুক্তরাজ্য-ভিত্তিক একটি দাতব্য সংস্থা, ইন্টারনেট ওয়াচ ফাউন্ডেশন (IWF), যারা অনলাইনে শিশু যৌন নির্যাতনমূলক চিত্র চিহ্নিতকরণ এবং অপসারণের উপর দৃষ্টি নিবদ্ধ করে, তারা গ্রোক নামক একটি কৃত্রিম বুদ্ধিমত্তা মডেল দ্বারা তৈরি কিছু চিত্র খুঁজে পাওয়ার কথা জানিয়েছে। এই গ্রোক মডেলটি ইলন মাস্কের xAI দ্বারা তৈরি। IWF, যারা অবৈধ কনটেন্টগুলিতে প্রবেশাধিকার আটকাতে ইন্টারনেট পরিষেবা প্রদানকারীদের সাথে কাজ করে, সেই চিত্রগুলিকে শিশু সুরক্ষা আইন লঙ্ঘনের সম্ভাবনা রয়েছে বলে চিহ্নিত করেছে।

এই আবিষ্কারটি এআই মডেলগুলিকে খারাপ উদ্দেশ্যে, বিশেষ করে শিশু যৌন নির্যাতন সামগ্রী (CSAM) তৈরির জন্য কাজে লাগানোর সম্ভাবনা সম্পর্কে গুরুত্বপূর্ণ উদ্বেগ সৃষ্টি করেছে। এআই সুরক্ষা ক্ষেত্রের বিশেষজ্ঞরা দীর্ঘদিন ধরে এই ঝুঁকির বিষয়ে সতর্ক করেছেন, ক্রমবর্ধমান অত্যাধুনিক জেনারেটিভ এআই প্রযুক্তিগুলির অপব্যবহার রোধ করতে শক্তিশালী সুরক্ষার প্রয়োজনীয়তার উপর জোর দিয়েছেন।

নভেম্বর ২০২৩-এ চালু হওয়া গ্রোক একটি বৃহৎ ভাষা মডেল (LLM), যা পাঠ্য তৈরি করতে, ভাষা অনুবাদ করতে, বিভিন্ন ধরণের সৃজনশীল সামগ্রী লিখতে এবং তথ্যপূর্ণ উপায়ে প্রশ্নের উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে। LLM-গুলিকে পাঠ্য এবং কোডের বিশাল ডেটাসেটের উপর প্রশিক্ষণ দেওয়া হয়, যা ভাষাতে নিদর্শন এবং সম্পর্ক শিখতে সক্ষম করে। এই ক্ষমতা শক্তিশালী হওয়ার পাশাপাশি, সঠিকভাবে নিয়ন্ত্রণ না করা হলে ক্ষতিকারক বা অনুপযুক্ত সামগ্রী তৈরি করতেও এটি সংবেদনশীল।

IWF-এর মতে, তাদের নিয়মিত পর্যবেক্ষণ প্রক্রিয়ার মাধ্যমে চিত্রগুলি চিহ্নিত করা হয়েছে। সংস্থাটি সম্ভাব্য শিকারদের সুরক্ষা এবং সামগ্রীর আরও বিস্তার এড়াতে চিত্রগুলি সম্পর্কে নির্দিষ্ট বিবরণ প্রকাশ করেনি। IWF-এর കണ്ടെത്തগুলি প্রাসঙ্গিক আইন প্রয়োগকারী সংস্থাগুলির সাথে শেয়ার করা হয়েছে।

xAI এখনও IWF-এর প্রতিবেদন সম্পর্কে আনুষ্ঠানিক বিবৃতি জারি করেনি। তবে, ইলন মাস্ক এর আগে বলেছিলেন যে xAI দায়িত্বশীল এবং নৈতিকভাবে এআই বিকাশের জন্য প্রতিশ্রুতিবদ্ধ। কোম্পানির ওয়েবসাইটে এআই সুরক্ষার বিষয়ে তাদের দৃষ্টিভঙ্গি তুলে ধরা হয়েছে, যার মধ্যে ক্ষতিকারক সামগ্রী তৈরি করা থেকে বিরত রাখার ব্যবস্থা রয়েছে।

এই ঘটনাটি এআই-উত্পাদিত সামগ্রী নিয়ন্ত্রণের চ্যালেঞ্জ এবং কার্যকর সনাক্তকরণ এবং প্রতিরোধ ব্যবস্থাগুলির চলমান গবেষণা এবং বিকাশের প্রয়োজনীয়তার উপর আলোকপাত করে। শিল্পটি বর্তমানে এআই-উত্পাদিত চিত্রগুলিতে ওয়াটারমার্কিং এবং CSAM সনাক্তকরণ এবং ফিল্টার করার জন্য অ্যালগরিদম তৈরি সহ বিভিন্ন কৌশল অন্বেষণ করছে।

এই ঘটনা এমন এক সময়ে ঘটল যখন এআই সংস্থাগুলি এবং তাদের প্রযুক্তির সাথে সম্পর্কিত ঝুঁকি হ্রাস করার প্রচেষ্টা ক্রমবর্ধমান সমালোচনার মুখে পড়েছে। বিশ্বজুড়ে সরকার এবং নিয়ন্ত্রক সংস্থাগুলি এআই-এর সম্ভাব্য ক্ষতি, যার মধ্যে CSAM তৈরি এবং প্রচার অন্তর্ভুক্ত, তা মোকাবেলার জন্য নতুন আইন এবং বিধিবিধান বিবেচনা করছে। উদাহরণস্বরূপ, ইউরোপীয় ইউনিয়নের এআই আইনে অবৈধ উদ্দেশ্যে এআই-এর অপব্যবহার রোধ করার লক্ষ্যে বিশেষভাবে বিধান রয়েছে।

IWF-এর കണ്ടെത്തনাগুলি এআই-এর দায়িত্বশীল বিকাশ এবং মোতায়েন সম্পর্কে বিতর্ককে আরও তীব্র করবে এবং শিশুexploitation থেকে শিশুদের রক্ষা করার জন্য সরকার, শিল্প এবং নাগরিক সমাজের সংস্থাগুলির দ্বারা আরও পদক্ষেপ নিতে উৎসাহিত করবে। এই ঘটনাটি এআই-কে ক্ষতির জন্য ব্যবহার করার সম্ভাবনা এবং কার্যকর সুরক্ষার জরুরি প্রয়োজনের একটি কঠোর অনুস্মারক হিসাবে কাজ করে।