যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম, এক্স (পূর্বে টুইটার) এর গ্রোক এআই চ্যাটবট শিশুদের যৌন আবেদনময়ী ছবি তৈরি করছে এমন প্রতিবেদনের বিষয়ে তথ্য চেয়েছে। বিভিন্ন অনলাইন সুরক্ষা গোষ্ঠী এবং মিডিয়া আউটলেটগুলির দ্বারা উত্থাপিত উদ্বেগের পরে এই তদন্ত শুরু হয়েছে, যেখানে এআই প্রযুক্তির সম্ভাব্য অপব্যবহারের কথা বলা হয়েছে।

নিয়ন্ত্রক সংস্থাটি জানতে চাইছে যে এই ধরনের ছবি তৈরি এবং বিস্তার রোধ করতে এক্স কী কী সুরক্ষা ব্যবস্থা নিয়েছে এবং এই ব্যবস্থাগুলির কার্যকারিতা মূল্যায়ন করতে চায়। ব্যবহারকারীদের ক্ষতিকারক কনটেন্ট থেকে রক্ষা করতে ব্যর্থ হলে অফকমের কোম্পানিগুলোকে জরিমানা করার ক্ষমতা আছে এবং এই তদন্তের ফলে আরও নিয়ন্ত্রক পদক্ষেপ নেওয়া হতে পারে।

এক্স-এর এআই কোম্পানি xAI দ্বারা তৈরি গ্রোক, একটি বৃহৎ ভাষা মডেল (এলএলএম), যা অন্যান্য এআই চ্যাটবট যেমন ChatGPT এবং Google-এর Gemini-এর মতো। এই মডেলগুলিকে টেক্সট এবং ছবির বিশাল ডেটাসেটের উপর প্রশিক্ষণ দেওয়া হয়, যা তাদের নতুন কনটেন্ট তৈরি করতে, ভাষা অনুবাদ করতে এবং প্রশ্নের উত্তর দিতে সক্ষম করে। তবে, একই প্রযুক্তি ক্ষতিকারক বা অবৈধ কনটেন্ট তৈরি করতে ব্যবহার করা যেতে পারে, যার মধ্যে শিশু যৌন নির্যাতন সামগ্রীও (সিএসএএম) অন্তর্ভুক্ত।

এআই মডেল দ্বারা শিশুদের যৌন আবেদনময়ী ছবি তৈরি করা নৈতিক ও আইনি উদ্বেগের জন্ম দেয়। বিশেষজ্ঞরা সতর্ক করেছেন যে এই ছবিগুলি, এমনকি যদি সিনথেটিকভাবে তৈরি করা হয়, তবুও শিশুদের স্বাভাবিকীকরণ এবং শোষণে অবদান রাখতে পারে। উপরন্তু, এই ছবিগুলি তৈরি এবং অনলাইনে ছড়িয়ে দেওয়া সহজ হওয়ায় আইন প্রয়োগকারী সংস্থা এবং শিশু সুরক্ষা সংস্থাগুলির জন্য একটি চ্যালেঞ্জ তৈরি হয়েছে।

বার্লিনের হার্টি স্কুলের এথিক্স অ্যান্ড টেকনোলজির অধ্যাপক ডঃ জোয়ানা ব্রাইসন বলেন, "এআই-এর এই ধরনের অপব্যবহারের সম্ভাবনা গভীরভাবে উদ্বেগজনক।" "এটি এআই প্রযুক্তির বিকাশ এবং ব্যবহার নিয়ন্ত্রণ করার জন্য শক্তিশালী নিয়মকানুন এবং নৈতিক নির্দেশিকাগুলির জরুরি প্রয়োজনীয়তার ওপর জোর দেয়।"

এক্স জানিয়েছে যে তারা গ্রোকের অপব্যবহার রোধ করতে প্রতিশ্রুতিবদ্ধ এবং ক্ষতিকারক কনটেন্ট সনাক্ত ও অপসারণের জন্য ব্যবস্থা নিয়েছে। এই ব্যবস্থাগুলির মধ্যে রয়েছে কনটেন্ট ফিল্টার, হিউম্যান রিভিউ এবং আইন প্রয়োগকারী সংস্থাগুলির সাথে সহযোগিতা। তবে, সমালোচকরা বলছেন যে এই ব্যবস্থাগুলি যথেষ্ট নয় এবং এআই মডেল দ্বারা সিএসএএম তৈরি প্রতিরোধে আরও বেশি কিছু করা দরকার।

অফকমের এই তদন্ত এআই নিয়ন্ত্রণ এবং এর দায়িত্বশীল বিকাশ ও ব্যবহার নিশ্চিত করার জন্য একটি বৃহত্তর প্রচেষ্টার অংশ। বিশ্বজুড়ে সরকার এবং নিয়ন্ত্রক সংস্থাগুলি এআই দ্বারা সৃষ্ট চ্যালেঞ্জগুলির সাথে মোকাবিলা করছে, যার মধ্যে পক্ষপাত, বৈষম্য এবং ভুল তথ্যের বিস্তার সম্পর্কিত বিষয়গুলিও রয়েছে। ইউরোপীয় ইউনিয়ন বর্তমানে তাদের এআই অ্যাক্ট চূড়ান্ত করছে, যা ইউরোপে এআই-এর জন্য একটি বিস্তৃত আইনি কাঠামো তৈরি করবে।

অফকমের তদন্তের ফলাফল এক্স এবং বৃহত্তর এআই শিল্পের জন্য উল্লেখযোগ্য প্রভাব ফেলতে পারে। এটি এআই মডেলগুলির বিকাশ এবং ব্যবহারের উপর কঠোর নিয়মকানুন আরোপ করতে পারে এবং বিশ্বজুড়ে অন্যান্য নিয়ন্ত্রক সংস্থাগুলির জন্য একটি নজির স্থাপন করতে পারে। অফকম তাদের তদন্ত শেষ করার জন্য কোনো নির্দিষ্ট সময়সীমা দেয়নি। এক্স অফকমের অনুরোধ স্বীকার করেছে এবং জানিয়েছে যে তারা তদন্তে সম্পূর্ণরূপে সহযোগিতা করছে।