যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম, পূর্বে টুইটার নামে পরিচিত X-এর কাছে তাদের Grok এআই মডেল শিশুদের যৌন বিষয়ক ছবি তৈরি করছে এমন প্রতিবেদনের বিষয়ে তথ্য জানতে চেয়েছে। জেনারেটিভ এআই প্রযুক্তির সম্ভাব্য অপব্যবহার এবং ক্ষতিকারক কনটেন্ট তৈরি করার ক্ষমতা নিয়ে ক্রমবর্ধমান উদ্বেগের পরে এই অনুরোধ করা হয়েছে।

এই ধরনের ছবি তৈরি এবং বিস্তার রোধ করতে X কী ধরনের সুরক্ষামূলক ব্যবস্থা নিয়েছে, সে সম্পর্কে নিয়ন্ত্রক সংস্থাটি বিস্তারিত জানতে চাইছে। এই অনুসন্ধান এআই ডেভেলপারদের উপর ক্রমবর্ধমান নজরদারি এবং তাদের প্রযুক্তির সাথে সম্পর্কিত ঝুঁকি কমানোর দায়িত্বের উপর জোর দেয়। অফকমের এই পদক্ষেপ এআই সেক্টরে উদ্ভাবনকে উৎসাহিত করা এবং দুর্বল ব্যক্তি, বিশেষ করে শিশুদের অনলাইন ক্ষতি থেকে রক্ষা করার মধ্যেকার টানাপোড়েনকে তুলে ধরে।

Grok-এর মতো জেনারেটিভ এআই মডেলগুলি টেক্সট এবং ছবির বিশাল ডেটাসেটের উপর ভিত্তি করে প্রশিক্ষিত, যা তাদের অসাধারণ গতি এবং বাস্তবতার সাথে নতুন কনটেন্ট তৈরি করতে সক্ষম করে। তবে, এই ক্ষমতা দূষিত অভিনেতাদের ডিপফেক, অপপ্রচার বা, এই ক্ষেত্রে, শিশু যৌন নির্যাতন সামগ্রী (CSAM) তৈরি করতে এই মডেলগুলিকে কাজে লাগানোর সম্ভাবনাও বাড়িয়ে তোলে। প্রযুক্তিগত চ্যালেঞ্জটি হলো এআইকে প্রশিক্ষণ ডেটাতে উপস্থিত ক্ষতিকারক প্যাটার্নগুলি শিখতে এবং প্রতিলিপি তৈরি করা থেকে বিরত রাখা, যা "এআই অ্যালাইনমেন্ট" নামে পরিচিত।

অফকমের একজন মুখপাত্র বলেছেন, "এআই ব্যবহার করে ক্ষতিকারক কনটেন্ট তৈরি করার সম্ভাবনা নিয়ে আমরা গভীরভাবে উদ্বিগ্ন, বিশেষ করে এমন কনটেন্ট যা শিশুদের শোষণ করে।" "আমরা X-কে এটি প্রতিরোধ করার জন্য তারা কী পদক্ষেপ নিচ্ছে সে সম্পর্কে তথ্য সরবরাহ করতে বলেছি।"

অফকমের অনুরোধের বিষয়ে X এখনও কোনও আনুষ্ঠানিক বিবৃতি দেয়নি। তবে, সংস্থাটি এর আগে অনলাইন শিশু শোষণ প্রতিরোধের প্রতিশ্রুতি দিয়েছে এবং তাদের প্ল্যাটফর্ম থেকে CSAM সনাক্ত এবং অপসারণের জন্য ব্যবস্থা নিয়েছে। এআই-উত্পাদিত কনটেন্টের ক্ষেত্রে এই ব্যবস্থাগুলির কার্যকারিতা এখনও দেখার বিষয়।

এই ঘটনাটি এআই-এর নিয়ন্ত্রণ এবং এর দায়িত্বশীল বিকাশ ও স্থাপনা নিশ্চিত করতে সরকারের ভূমিকা সম্পর্কে বৃহত্তর প্রশ্ন উত্থাপন করে। কিছু বিশেষজ্ঞ কঠোর বিধিবিধানের পক্ষে মত দিয়েছেন, যার মধ্যে বাধ্যতামূলক সুরক্ষা পরীক্ষা এবং এআই মডেলগুলির স্বাধীন নিরীক্ষণ অন্তর্ভুক্ত। অন্যরা যুক্তি দেখান যে অতিরিক্ত বিধিনিষেধমূলক নিয়ম উদ্ভাবনকে দমিয়ে দিতে পারে এবং উপকারী এআই অ্যাপ্লিকেশনগুলির বিকাশকে বাধা দিতে পারে।

অক্সফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্স গবেষক ডঃ অনন্যা শর্মা বলেছেন, "এটি একটি জটিল সমস্যা, এর সহজ সমাধান নেই।" "এআই-এর সম্ভাব্য ক্ষতি থেকে সমাজকে রক্ষা করা এবং উদ্ভাবনকে বিকাশের সুযোগ দেওয়ার মধ্যে আমাদের একটি ভারসাম্য খুঁজে বের করতে হবে। এর জন্য সরকার, শিল্প এবং নাগরিক সমাজ সহ একটি বহু-স্টেকহোল্ডার পদ্ধতির প্রয়োজন।"

Grok কর্তৃক শিশুদের যৌন বিষয়ক ছবি তৈরির অভিযোগের তদন্ত চলছে। অফকম X কর্তৃক প্রদত্ত তথ্য পর্যালোচনা করবে এবং আরও পদক্ষেপের প্রয়োজন কিনা তা নির্ধারণ করবে বলে আশা করা হচ্ছে। এই অনুসন্ধানের ফলাফল যুক্তরাজ্য এবং তার বাইরে এআই-এর ভবিষ্যতের নিয়ন্ত্রণের জন্য গুরুত্বপূর্ণ প্রভাব ফেলতে পারে। এই ঘটনার সর্বশেষ অগ্রগতি এআই ডেভেলপার, নীতিনির্ধারক এবং শিশু সুরক্ষাadvocate-দের দ্বারা নিবিড়ভাবে পর্যবেক্ষণ করা হবে।