যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম (Ofcom), এক্স (পূর্বে টুইটার)-এর গ্রোক এআই মডেল শিশুদের যৌন আবেদনময়ী ছবি তৈরি করছে এমন প্রতিবেদনের বিষয়ে আনুষ্ঠানিকভাবে তথ্য জানতে চেয়েছে। জেনারেটিভ এআই প্রযুক্তির সম্ভাব্য অপব্যবহার এবং ক্ষতিকর কনটেন্ট তৈরির ক্ষমতা নিয়ে ক্রমবর্ধমান উদ্বেগের কারণে এই পদক্ষেপ নেওয়া হয়েছে।

গ্রোককে এই ধরনের ছবি তৈরি করা থেকে আটকাতে এক্স কী কী সুরক্ষা ব্যবস্থা নিয়েছে এবং অপব্যবহারের ঘটনা শনাক্ত ও সরানোর জন্য কী ব্যবস্থা নেওয়া হয়েছে, সে বিষয়ে নিয়ন্ত্রক সংস্থাটি বিস্তারিত জানতে চাইছে। অফকমের এই অনুসন্ধান এআই ডেভেলপারদের ওপর ক্রমবর্ধমান নজরদারি এবং ক্রমবর্ধমান অত্যাধুনিক এআই মডেলগুলির সাথে সম্পর্কিত ঝুঁকি কমানোর ক্ষেত্রে তাদের দায়িত্বের ওপর জোর দেয়।

গ্রোকের মতো জেনারেটিভ এআই, বিদ্যমান ডেটা থেকে নতুন কনটেন্ট তৈরি করতে জটিল অ্যালগরিদম ব্যবহার করে, যা প্রায়শই ডিপ লার্নিং নিউরাল নেটওয়ার্কের উপর ভিত্তি করে তৈরি। এই মডেলগুলিকে ছবি, টেক্সট এবং অন্যান্য মিডিয়ার বিশাল ডেটাসেটের উপর প্রশিক্ষণ দেওয়া হয়, যা তাদের বাস্তবসম্মত এবং প্রায়শই অবিকল আউটপুট তৈরি করতে সক্ষম করে। তবে, এই ক্ষমতা দূষিত অভিনেতাদের ডিপফেক তৈরি, ভুল তথ্য ছড়ানো এবং এই ক্ষেত্রে যেমন অভিযোগ করা হয়েছে, শিশু যৌন নির্যাতন সামগ্রী (CSAM) তৈরি করার সুযোগও তৈরি করে।

অফকমের একজন মুখপাত্র বলেছেন, "এআই ব্যবহার করে ক্ষতিকর কনটেন্ট তৈরি করার সম্ভাবনা নিয়ে আমরা গভীরভাবে উদ্বিগ্ন, বিশেষ করে এমন কনটেন্ট যা শিশুদের শোষণ করে।" "এই ঝুঁকিগুলো মোকাবিলা করতে এবং তাদের ব্যবহারকারীদের নিরাপত্তা নিশ্চিত করতে তারা কী পদক্ষেপ নিচ্ছে তা জানতে আমরা এক্স-এর সাথে যোগাযোগ করছি।"

এক্স অফকমের অনুরোধ স্বীকার করেছে এবং জানিয়েছে যে তারা তদন্তে সম্পূর্ণরূপে সহযোগিতা করছে। কোম্পানির পক্ষ থেকে বলা হয়েছে, CSAM তৈরি এবং বিতরণে নিষেধাজ্ঞা জারির জন্য তাদের কঠোর নীতি রয়েছে এবং তারা তাদের এআই সুরক্ষা ব্যবস্থা উন্নত করতে সক্রিয়ভাবে কাজ করছে।

এই ঘটনাটি এআই-এর দ্রুত অগ্রগতির কারণে সৃষ্ট বৃহত্তর সামাজিক চ্যালেঞ্জগুলোকে তুলে ধরে। এআই মডেলগুলো যত বেশি শক্তিশালী এবং সহজলভ্য হচ্ছে, অপব্যবহারের সম্ভাবনাও তত বাড়ছে, যার জন্য প্রয়োজন শক্তিশালী নিয়ন্ত্রক কাঠামো এবং নৈতিক নির্দেশিকা। বিশেষজ্ঞরা এআই সুরক্ষা নিয়ে চলমান গবেষণা এবং ক্ষতিকর কনটেন্ট তৈরি শনাক্ত ও প্রতিরোধের জন্য সরঞ্জাম তৈরির প্রয়োজনীয়তার ওপর জোর দিয়েছেন।

অক্সফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্সের গবেষক ডঃ Anya Sharma বলেছেন, "এআই গভর্নেন্সের জন্য এটি একটি গুরুত্বপূর্ণ মুহূর্ত।" "আমাদের জবাবদিহিতার স্পষ্ট সীমা নির্ধারণ করতে হবে এবং এআই ডেভেলপাররা তাদের প্রযুক্তির কারণে সম্ভাব্য ক্ষতির জন্য দায়ী থাকবে তা নিশ্চিত করতে হবে।"

অফকমের অনুসন্ধানের ফলাফল যুক্তরাজ্য এবং এর বাইরে এআই নিয়ন্ত্রণের ক্ষেত্রে গুরুত্বপূর্ণ প্রভাব ফেলতে পারে। এর ফলে বিদ্যমান আইনের কঠোর প্রয়োগ এবং বিশেষভাবে জেনারেটিভ এআই-এর অপব্যবহারকে লক্ষ্য করে নতুন প্রবিধান তৈরি হতে পারে। তদন্ত চলছে, এবং অফকম আগামী মাসগুলোতে তাদের findings প্রকাশ করবে বলে আশা করা হচ্ছে।