যুক্তরাজ্য-ভিত্তিক একটি দাতব্য সংস্থা, ইন্টারনেট ওয়াচ ফাউন্ডেশন (IWF), যারা অনলাইনে শিশু যৌন নির্যাতন বিষয়ক ছবি চিহ্নিতকরণ এবং অপসারণের উপর দৃষ্টি নিবদ্ধ করে, তারা গ্রোক (Grok) দ্বারা তৈরি কিছু ছবি খুঁজে পাওয়ার কথা জানিয়েছে। গ্রোক হলো ইলন মাস্কের xAI দ্বারা তৈরি একটি কৃত্রিম বুদ্ধিমত্তা মডেল। IWF ছবিগুলোকে শিশু যৌন নির্যাতন সামগ্রী (CSAM) হিসেবে চিহ্নিত করেছে এবং সংশ্লিষ্ট কর্তৃপক্ষের কাছে রিপোর্ট করেছে।

এই আবিষ্কারটি এআই মডেলগুলোকে খারাপ উদ্দেশ্যে ব্যবহারের সম্ভাবনা, বিশেষ করে CSAM তৈরির বিষয়ে গুরুত্বপূর্ণ উদ্বেগ সৃষ্টি করেছে। এআই নিরাপত্তা ক্ষেত্রের বিশেষজ্ঞরা দীর্ঘদিন ধরে ক্রমবর্ধমান অত্যাধুনিক জেনারেটিভ এআই মডেলগুলোর সাথে সম্পর্কিত ঝুঁকিগুলো সম্পর্কে সতর্ক করেছেন, যার মধ্যে ক্ষতিকারক সামগ্রী তৈরি করার জন্য তাদের সম্ভাব্য অপব্যবহারের বিষয়টিও রয়েছে।

xAI এখনও IWF-এর অনুসন্ধানের বিষয়ে কোনো আনুষ্ঠানিক বিবৃতি দেয়নি। তবে, কোম্পানিটি এর আগে দায়িত্বশীলভাবে এআই তৈরি এবং সম্ভাব্য ঝুঁকি কমানোর প্রতিশ্রুতি দিয়েছে। গ্রোক, যা বর্তমানে X (পূর্বে টুইটার)-এর প্রিমিয়াম+ পরিষেবার গ্রাহকদের জন্য উপলব্ধ, এটি একটি বৃহৎ ভাষা মডেল যা টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে, বিভিন্ন ধরণের সৃজনশীল বিষয়বস্তু লিখতে এবং তথ্যপূর্ণ উপায়ে প্রশ্নের উত্তর দিতে ডিজাইন করা হয়েছে। অন্যান্য এআই মডেল থেকে এটি নিজেকে আলাদা করে কারণ এটি "ঝাল প্রশ্ন"-এর উত্তর দেওয়ার অভিপ্রায় ব্যক্ত করে, যা অন্য এআই হয়তো এড়িয়ে যায়।

IWF-এর প্রক্রিয়ার মধ্যে স্বয়ংক্রিয় সরঞ্জাম এবং মানব বিশ্লেষকদের সমন্বয় ব্যবহার করে অনলাইনে সম্ভাব্য অবৈধ সামগ্রী চিহ্নিত এবং শ্রেণীবদ্ধ করা হয়। একবার চিহ্নিত করা হলে, IWF সেই সামগ্রীগুলি ইন্টারনেট পরিষেবা প্রদানকারী (ISP) এবং অন্যান্য প্রাসঙ্গিক সংস্থাগুলিকে জানায়, যারা তাদের প্ল্যাটফর্ম থেকে সেই সামগ্রী সরানোর জন্য দায়ী। IWF আইন প্রয়োগকারী সংস্থাগুলোর সাথে CSAM-এর উৎপাদন ও বিতরণে জড়িত ব্যক্তিদের তদন্ত ও বিচারের জন্য কাজ করে।

এই ঘটনাটি এআই প্রযুক্তির অপব্যবহার রোধে জড়িত চ্যালেঞ্জগুলো তুলে ধরে। গ্রোকের মতো জেনারেটিভ এআই মডেলগুলোকে বিপুল পরিমাণ ডেটার উপর প্রশিক্ষণ দেওয়া হয় এবং ক্ষতিকারক সামগ্রী তৈরি করতে শেখা থেকে তাদের আটকানো কঠিন হতে পারে। তাছাড়া, এআই উন্নয়নের দ্রুত গতি নিয়ন্ত্রক এবং নীতিনির্ধারকদের জন্য ক্রমবর্ধমান ঝুঁকির সাথে তাল মিলিয়ে চলাকে কঠিন করে তোলে।

এআই নিরাপত্তা ইনস্টিটিউটের (AI Safety Institute) একজন গবেষক এমিলি কার্টার বলেন, "এটি পুরো এআই শিল্পের জন্য একটি সতর্কবার্তা।" এআই নিরাপত্তা ইনস্টিটিউট হলো একটি অলাভজনক সংস্থা, যা এআই-এর নিরাপদ এবং দায়িত্বশীল উন্নয়নে কাজ করে। "CSAM এবং অন্যান্য ক্ষতিকারক সামগ্রী তৈরি করতে এআই মডেলগুলোর ব্যবহার রোধ করতে আমাদের আরও বেশি করে সুরক্ষাব্যবস্থা তৈরিতে বিনিয়োগ করতে হবে।"

তদন্তের বর্তমান অবস্থা অস্পষ্ট। আইন প্রয়োগকারী সংস্থাগুলো সম্ভবত ছবিগুলোর উৎস এবং গ্রোককে সেগুলি তৈরি করতে কতটা ব্যবহার করা হয়েছে, তা তদন্ত করছে। এই ঘটনাটি এআই সুরক্ষা প্রোটোকলগুলোর আরও বেশি করে নিরীক্ষণের দিকে পরিচালিত করতে পারে এবং জেনারেটিভ এআই মডেলগুলোর বিকাশ ও স্থাপনাকে নিয়ন্ত্রণ করে এমন নতুন নিয়ম তৈরি হতে পারে। IWF পরিস্থিতি পর্যবেক্ষণ করা চালিয়ে যাবে এবং চিহ্নিত করা CSAM ইন্টারনেট থেকে সরাতে প্রাসঙ্গিক সংস্থাগুলোর সাথে কাজ করবে।