ইন্টারনেট ওয়াচ ফাউন্ডেশন (IWF) জানিয়েছে যে তারা গ্রোক নামক একটি কৃত্রিম বুদ্ধিমত্তা চ্যাটবট ব্যবহার করে তৈরি করা শিশুদের যৌন নিপীড়নের ছবি খুঁজে পেয়েছে, যা xAI দ্বারা তৈরি। যুক্তরাজ্য-ভিত্তিক সংস্থা IWF, যারা অনলাইনে শিশুদের যৌন নির্যাতনের উপাদান (CSAM) সনাক্তকরণ এবং অপসারণের জন্য কাজ করে, তাদের নিয়মিত পর্যবেক্ষণ কার্যক্রমের সময় এই আবিষ্কারটি করে।

IWF অনুসারে, গ্রোক এআইকে দেওয়া প্রম্পটের মাধ্যমে ছবিগুলো তৈরি করা হয়েছিল। ভুক্তভোগীদের সুরক্ষা এবং আরও বিস্তার রোধ করার জন্য প্রম্পট এবং ফলস্বরূপ ছবিগুলোর সঠিক প্রকৃতি প্রকাশ করা হয়নি, তবে IWF জানিয়েছে যে ছবিগুলো অবৈধ সামগ্রীর জন্য নির্ধারিত মানদণ্ড পূরণ করেছে। সংস্থাটি ইতিমধ্যে চিহ্নিত উপাদান সরানোর জন্য পদক্ষেপ নিয়েছে এবং প্রাসঙ্গিক আইন প্রয়োগকারী সংস্থাগুলোর সাথে কাজ করছে।

এই ঘটনাটি এআই মডেলগুলোকে খারাপ উদ্দেশ্যে, বিশেষ করে CSAM তৈরি এবং বিতরণের জন্য কাজে লাগানোর সম্ভাবনা সম্পর্কে গুরুত্বপূর্ণ উদ্বেগ সৃষ্টি করেছে। এটি এআই ডেভেলপারদের জন্য শক্তিশালী সুরক্ষা এবং বিষয়বস্তু নিরীক্ষণ ব্যবস্থা বাস্তবায়নের মাধ্যমে অপব্যবহার প্রতিরোধের চলমান চ্যালেঞ্জকে তুলে ধরে। "এটি শক্তিশালী এআই সরঞ্জাম তৈরির সাথে আসা দায়িত্বগুলোর একটি স্পষ্ট অনুস্মারক," IWF-এর একজন মুখপাত্র বলেছেন। "আমাদের নিশ্চিত করতে সক্রিয় পদক্ষেপ নেওয়া দরকার যাতে এই প্রযুক্তিগুলো শিশুদের ক্ষতি করতে ব্যবহৃত না হয়।"

২০২৩ সালের শেষের দিকে xAI দ্বারা চালু করা গ্রোক একটি বৃহৎ ভাষা মডেল (LLM), যা পাঠ্য তৈরি করতে, ভাষা অনুবাদ করতে, বিভিন্ন ধরণের সৃজনশীল বিষয়বস্তু লিখতে এবং তথ্যপূর্ণ উপায়ে প্রশ্নের উত্তর দিতে ডিজাইন করা হয়েছে। LLM-গুলোকে বিশাল ডেটা সেটের পাঠ্য এবং কোডের উপর প্রশিক্ষণ দেওয়া হয়, যা তাদের মানুষের মতো পাঠ্য বুঝতে এবং তৈরি করতে সক্ষম করে। তবে, এই প্রশিক্ষণ তাদের সম্ভাব্য ক্ষতিকারক সামগ্রীর সংস্পর্শে আনে, যার জন্য ডেভেলপারদের অনুপযুক্ত বা অবৈধ উপাদান তৈরি হওয়া আটকাতে ফিল্টার এবং সুরক্ষা ব্যবস্থা প্রয়োগ করতে হয়।

IWF কর্তৃক এই আবিষ্কার এআই যুগে বিষয়বস্তু নিরীক্ষণের জটিলতাগুলোকে তুলে ধরে। CSAM সনাক্তকরণ এবং অপসারণের ঐতিহ্যবাহী পদ্ধতি, যা প্রায়শই মানুষের পর্যালোচনার উপর নির্ভর করে, এআই যে গতি এবং পরিমাণে বিষয়বস্তু তৈরি করতে পারে তার দ্বারা চ্যালেঞ্জের সম্মুখীন। এর জন্য স্বয়ংক্রিয় সনাক্তকরণ সরঞ্জাম এবং সম্ভাব্য ঝুঁকিগুলো চিহ্নিত ও প্রশমিত করার জন্য সক্রিয় ব্যবস্থা গ্রহণের প্রয়োজন।

এই ঘটনাটি সম্ভবত শিল্প জুড়ে এআই সুরক্ষা প্রোটোকল এবং বিষয়বস্তু নিরীক্ষণ অনুশীলনের আরও তদন্তের দিকে পরিচালিত করবে। নিয়ন্ত্রক এবং নীতিনির্ধারকরা ক্রমবর্ধমানভাবে এআই-এর সাথে সম্পর্কিত সম্ভাব্য ক্ষতিগুলো মোকাবেলার দিকে মনোনিবেশ করছেন, যার মধ্যে CSAM, ভুল তথ্য এবং অন্যান্য ক্ষতিকারক বিষয়বস্তু তৈরি করাও অন্তর্ভুক্ত। উদাহরণস্বরূপ, ইউরোপীয় ইউনিয়নের এআই অ্যাক্টে উচ্চ-ঝুঁকিপূর্ণ এআই সিস্টেমগুলোকে নিয়ন্ত্রণ এবং অ-সম্মতির জন্য জরিমানা আরোপের বিধান রয়েছে।

xAI এখনও IWF-এর findings নিয়ে কোনো আনুষ্ঠানিক বিবৃতি প্রকাশ করেনি। তবে, সংস্থাটি তদন্তে সহযোগিতা করবে এবং গ্রোকের দুর্বলতাগুলো মোকাবেলার জন্য পদক্ষেপ নেবে বলে আশা করা হচ্ছে। এই ঘটনাটি এআই সম্প্রদায়ের জন্য সুরক্ষা ব্যবস্থা জোরদার করতে এবং এই শক্তিশালী প্রযুক্তিগুলোর অপব্যবহার রোধ করতে একটি গুরুত্বপূর্ণ শিক্ষার সুযোগ হিসেবে কাজ করে। IWF অনলাইনে CSAM-এর জন্য প্ল্যাটফর্মগুলো পর্যবেক্ষণ করে চলেছে এবং শিশুদের শোষণ মোকাবেলা করতে শিল্প অংশীদারদের সাথে সহযোগিতা করছে।