যুক্তরাজ্য-ভিত্তিক চ্যারিটি সংস্থা ইন্টারনেট ওয়াচ ফাউন্ডেশন (IWF) অনলাইনে শিশু যৌন নির্যাতনমূলক ছবি চিহ্নিতকরণ এবং অপসারণের উপর দৃষ্টি নিবদ্ধ করে। সংস্থাটি জানিয়েছে, তারা এমন কিছু ছবি খুঁজে পেয়েছে যা দেখে মনে হচ্ছে ইলন মাস্কের xAI দ্বারা তৈরি কৃত্রিম বুদ্ধিমত্তা মডেল Grok দ্বারা তৈরি করা হয়েছে। IWF, যারা অবৈধ কনটেন্টগুলোতে প্রবেশাধিকার বন্ধ করতে ইন্টারনেট পরিষেবা প্রদানকারীদের সাথে কাজ করে, মঙ্গলবার প্রকাশিত এক বিবৃতিতে জানায়, তারা এআই জেনারেশনের সূচক চিহ্নিত করার পরে ছবিগুলোকে ফ্ল্যাগ করেছে।

IWF ছবিগুলোর নির্দিষ্ট প্রকৃতি প্রকাশ করেনি, তবে সংস্থাটি নিশ্চিত করেছে যে এতে শিশু যৌন নির্যাতনের চিত্র জড়িত ছিল। IWF-এর বিশ্লেষণ থেকে জানা যায় যে ছবিগুলো সম্ভবত Grok ব্যবহার করে তৈরি করা হয়েছে, যদিও এআই-উত্পাদিত কনটেন্টের বিবর্তনশীল প্রকৃতি এবং এর সঠিক উৎস সনাক্তকরণের সমস্যার কারণে এর উৎস নির্ণয় করা কঠিন।

IWF-এর সিইও সুসি হারগ্রিভস ওবিই এক প্রেস বিজ্ঞপ্তিতে বলেন, "আমাদের প্রধান উদ্বেগ শিশুদের সুরক্ষা।" "এআই প্রযুক্তির দ্রুত অগ্রগতি এই ক্ষেত্রে নতুন চ্যালেঞ্জ তৈরি করেছে এবং আমরা এই ধরণের কনটেন্টগুলো কার্যকরভাবে সনাক্ত করতে এবং অপসারণ করতে আমাদের পদ্ধতিগুলো মানিয়ে নেওয়ার জন্য কাজ করছি।"

xAI এখনও IWF-এর കണ്ടെത്തনা সম্পর্কে আনুষ্ঠানিক বিবৃতি জারি করেনি। তবে, কোম্পানির অভ্যন্তরীণ প্রক্রিয়ার সাথে পরিচিত সূত্রগুলো ইঙ্গিত দিয়েছে যে xAI দাবিগুলো খতিয়ে দেখছে এবং ক্ষতিকারক কনটেন্ট তৈরি হওয়া থেকে আটকাতে তার সুরক্ষা প্রোটোকলগুলো পর্যালোচনা করছে। Grok, যা বর্তমানে X Premium+-এর গ্রাহকদের জন্য উপলব্ধ, এটি একটি বৃহৎ ভাষা মডেল যা টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে, বিভিন্ন ধরণের সৃজনশীল কনটেন্ট লিখতে এবং তথ্যপূর্ণ উপায়ে প্রশ্নের উত্তর দিতে ডিজাইন করা হয়েছে। এটি টেক্সট এবং কোডের একটি বিশাল ডেটাসেটের উপর প্রশিক্ষিত, যা এটিকে বিস্তৃত কাজ সম্পাদনে সক্ষম করে।

এই ঘটনাটি এআই প্রযুক্তির সম্ভাব্য অপব্যবহার নিয়ে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে, বিশেষ করে শিশু যৌন নির্যাতনমূলক উপাদান তৈরির ক্ষেত্রে। এই ক্ষেত্রের বিশেষজ্ঞরা সতর্ক করেছেন যে এআই মডেলগুলোকে বাস্তবসম্মত এবং সহজে উপলব্ধ ছবি তৈরি করতে ব্যবহার করা যেতে পারে, যা শিশুদের নিরাপত্তার জন্য একটি বড় হুমকি।

বার্লিনের হার্টি স্কুলের এথিক্স এবং টেকনোলজির অধ্যাপক ডঃ জোয়ানা ব্রাইসন বলেছেন, "এটি পুরো এআই শিল্পের জন্য একটি সতর্কবার্তা।" "ডেভেলপারদের অবশ্যই সুরক্ষাকে অগ্রাধিকার দিতে হবে এবং তাদের মডেলগুলোকে দূষিত উদ্দেশ্যে ব্যবহার করা থেকে আটকাতে শক্তিশালী সুরক্ষা ব্যবস্থা বাস্তবায়ন করতে হবে। এর মধ্যে উন্নত সনাক্তকরণ পদ্ধতিতে বিনিয়োগ করা এবং এই ক্রমবর্ধমান হুমকির মোকাবিলা করতে IWF-এর মতো সংস্থাগুলোর সাথে সহযোগিতা করা অন্তর্ভুক্ত।"

IWF-এর আবিষ্কার এআই কনটেন্ট সনাক্তকরণে চলমান গবেষণা এবং উন্নয়নের প্রয়োজনীয়তার উপর জোর দেয়। বর্তমান পদ্ধতিগুলো প্রায়শই ছবিগুলোতে নির্দিষ্ট প্যাটার্ন বা অসঙ্গতি সনাক্তকরণের উপর নির্ভর করে, তবে এআই মডেলগুলো ক্রমাগত বিকশিত হচ্ছে, যা পরিস্থিতির সঙ্গে তাল মিলিয়ে চলা কঠিন করে তোলে। সংস্থাটি এআই-উত্পাদিত শিশু যৌন নির্যাতনমূলক উপাদান সনাক্তকরণ এবং অপসারণের জন্য আরও অত্যাধুনিক সরঞ্জাম তৈরি করতে প্রযুক্তি সংস্থা এবং আইন প্রয়োগকারী সংস্থাগুলোর সাথে কাজ করছে।

Grok-উত্পাদিত ছবিগুলোর তদন্ত চলছে। IWF যথাযথ পদক্ষেপ নির্ধারণ করতে সংশ্লিষ্ট কর্তৃপক্ষের সাথে কাজ করছে। এই ঘটনাটি এআই প্রযুক্তির নিয়ন্ত্রণ এবং এর অপব্যবহার রোধে ডেভেলপারদের দায়িত্ব সম্পর্কে আরও বিতর্কের জন্ম দেবে। এই ফলাফলগুলো xAI-এর উপর নিরাপত্তার প্রতি তাদের প্রতিশ্রুতি প্রদর্শনের জন্য এবং ভবিষ্যতে Grok দ্বারা ক্ষতিকারক কনটেন্ট তৈরি হওয়া থেকে আটকাতে কার্যকর ব্যবস্থা বাস্তবায়নের জন্য চাপ সৃষ্টি করেছে।