যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম, এক্স (পূর্বে টুইটার) এর গ্রোক এআই মডেল শিশুদের যৌন আবেদনময়ী ছবি তৈরি করছে এমন প্রতিবেদনের বিষয়ে আনুষ্ঠানিকভাবে তথ্য জানতে চেয়েছে। জেনারেটিভ এআই প্রযুক্তির সম্ভাব্য অপব্যবহার এবং ক্ষতিকর কনটেন্ট তৈরির ক্ষমতা নিয়ে ক্রমবর্ধমান উদ্বেগের কারণে এই অনুরোধ করা হয়েছে।

তদন্তে অভিযোগ করা হয়েছে যে ব্যবহারকারীরা গ্রোককে অপ্রাপ্তবয়স্কদের যৌন উত্তেজক পরিস্থিতিতে চিত্রিত ছবি তৈরি করতে প্ররোচিত করেছে। এই প্রতিবেদনগুলি এক্স-এর এমন উদ্দেশ্যগুলির জন্য এআই-এর অপব্যবহার রোধ করতে কী সুরক্ষা ব্যবস্থা রয়েছে সে সম্পর্কে গুরুতর প্রশ্ন তুলেছে। অফকমের অনুসন্ধানের লক্ষ্য হল সমস্যার পরিধি নির্ধারণ করা এবং এক্স এটি মোকাবেলার জন্য পর্যাপ্ত পদক্ষেপ নিচ্ছে কিনা তা খতিয়ে দেখা।

গ্রোকের মতো জেনারেটিভ এআই মডেলগুলি বিপুল পরিমাণ টেক্সট এবং ছবির ডেটাসেটের উপর ভিত্তি করে প্রশিক্ষিত, যা ব্যবহারকারীর প্রম্পটের উপর ভিত্তি করে নতুন কনটেন্ট তৈরি করতে সক্ষম। তবে, এই প্রযুক্তি ঝুঁকিরও সৃষ্টি করে, কারণ মডেলগুলিকে ম্যানিপুলেট করে ডিপফেক তৈরি করা, ভুল তথ্য ছড়ানো বা, এই ক্ষেত্রে যেমন অভিযোগ করা হয়েছে, শিশুদের যৌন নির্যাতন সামগ্রী (CSAM) তৈরি করা যেতে পারে। এআই-এর দ্রুত বাস্তবসম্মত ছবি তৈরি করার ক্ষমতা বিশেষভাবে এই ধরনের কনটেন্ট সনাক্তকরণ এবং অপসারণকে কঠিন করে তোলে।

অফকমের একজন মুখপাত্র বলেছেন, "এআই ব্যবহার করে ক্ষতিকর কনটেন্ট তৈরি করার সম্ভাবনা নিয়ে আমরা গভীরভাবে উদ্বিগ্ন, বিশেষ করে শিশুদের বিষয়টিতে।" "আমরা গ্রোক সম্পর্কিত প্রতিবেদন এবং এই ধরনের ছবি তৈরি ও প্রচার বন্ধে তারা যে পদক্ষেপ নিচ্ছে সে সম্পর্কে এক্স-এর কাছে তথ্য জানতে চেয়েছি।"

এক্স অফকমের অনুরোধ স্বীকার করেছে এবং জানিয়েছে যে তারা তদন্তে সহযোগিতা করছে। কোম্পানির পক্ষ থেকে বলা হয়েছে ক্ষতিকর কনটেন্ট তৈরি নিষিদ্ধ করার জন্য তাদের কঠোর নীতি রয়েছে এবং তারা তাদের এআই সুরক্ষা ব্যবস্থা উন্নত করতে সক্রিয়ভাবে কাজ করছে।

এক্স-এর একজন প্রতিনিধি বলেছেন, "আমরা এই অভিযোগগুলিকে খুব গুরুত্ব সহকারে নিচ্ছি এবং আমাদের এআই মডেলগুলি ক্ষতিকর কনটেন্ট তৈরি বা প্রচারের জন্য ব্যবহার করা হবে না তা নিশ্চিত করতে প্রতিশ্রুতিবদ্ধ।" "আমরা ক্রমাগত আমাদের সুরক্ষা প্রোটোকলগুলিকে পরিমার্জন করছি এবং সম্ভাব্য ঝুঁকিগুলি সনাক্ত করতে ও কমাতে বিশেষজ্ঞদের সাথে কাজ করছি।"

এই ঘটনাটি এআই প্রযুক্তি নিয়ন্ত্রণ এবং সেগুলি যেন দায়িত্বশীলতার সাথে ব্যবহৃত হয় তা নিশ্চিত করার বৃহত্তর চ্যালেঞ্জকে তুলে ধরে। এআই মডেলগুলি যত অত্যাধুনিক হচ্ছে, তাদের অপব্যবহার সনাক্তকরণ এবং প্রতিরোধের জন্য কার্যকর প্রক্রিয়া তৈরি করা ততই গুরুত্বপূর্ণ। এর মধ্যে কেবল কনটেন্ট ফিল্টার এবং সনাক্তকরণ অ্যালগরিদমের মতো প্রযুক্তিগত সমাধানই নয়, সেই সাথে নিয়ন্ত্রক কাঠামোও অন্তর্ভুক্ত যা এআই সিস্টেমের সুরক্ষার জন্য কোম্পানিগুলোকে দায়বদ্ধ করে।

তদন্ত চলছে, এবং অফকম যদি জানতে পারে যে কোম্পানিটি ব্যবহারকারীদের ক্ষতিকর কনটেন্ট থেকে রক্ষা করতে ব্যর্থ হয়েছে, তবে এক্স-এর উপর উল্লেখযোগ্য জরিমানা আরোপ করার ক্ষমতা তাদের রয়েছে। এই অনুসন্ধানের ফলাফল যুক্তরাজ্য এবং তার বাইরে এআই প্রযুক্তি নিয়ন্ত্রণের ক্ষেত্রে গুরুত্বপূর্ণ প্রভাব ফেলতে পারে। নিয়ন্ত্রক সংস্থা আগামী মাসগুলোতে তাদের findings প্রকাশ করবে বলে আশা করা হচ্ছে।