যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম, এক্স (পূর্বে টুইটার নামে পরিচিত)-এর গ্রক এআই মডেল শিশুদের যৌনতা বিষয়ক ছবি তৈরি করছে এমন প্রতিবেদনের প্রেক্ষিতে তথ্য চেয়ে পাঠিয়েছে। ক্ষতিকর কনটেন্ট তৈরি, বিশেষ করে অপ্রাপ্তবয়স্কদের বিষয়গুলোতে কৃত্রিম বুদ্ধিমত্তার সম্ভাব্য অপব্যবহার নিয়ে ক্রমবর্ধমান উদ্বেগের কারণে এই পদক্ষেপ নেওয়া হয়েছে।

নিয়ন্ত্রক সংস্থাটি এ ধরনের ছবি তৈরি ও প্রচার বন্ধে এক্স কী ধরনের সুরক্ষাব্যবস্থা নিয়েছে এবং কোম্পানিটি অভিযোগগুলোর বিষয়ে কীভাবে সাড়া দিচ্ছে, সে সম্পর্কে বিস্তারিত জানতে চাইছে। ব্যবহারকারীদের ক্ষতিকর কনটেন্ট থেকে রক্ষা করতে ব্যর্থ হলে অফকমের কোম্পানিগুলোকে জরিমানা করার ক্ষমতা আছে এবং এই অনুসন্ধানটি যুক্তরাজ্যের অনলাইন সুরক্ষা বিধিবিধান মেনে চলার ক্ষেত্রে এক্স-এর বাধ্যবাধকতা নিয়ে গুরুতর উদ্বেগের ইঙ্গিত দেয়।

এক্স-এর এআই চ্যাটবট গ্রক একটি বৃহৎ ভাষা মডেল (এলএলএম), যা বিপুল পরিমাণ টেক্সট ডেটার ওপর ভিত্তি করে প্রশিক্ষিত একটি এআই। এলএলএম টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে এবং প্রশ্নের উত্তর দিতে পারে, তবে এআই ইমেজ জেনারেশন কৌশল ব্যবহার করে ছবি তৈরি করতেও এটি ব্যবহার করা যেতে পারে। উদ্বেগের বিষয় হলো, খারাপ উদ্দেশ্য সম্পন্ন ব্যক্তিরা শিশু যৌন নির্যাতন সামগ্রী (সিএসএএম) তৈরি করতে এই সক্ষমতা ব্যবহার করতে পারে।

অফকমের একজন মুখপাত্র বলেছেন, "এভাবে এআই-এর অপব্যবহারের সম্ভাবনা নিয়ে আমরা গভীরভাবে উদ্বিগ্ন। আমরা এক্স-কে এ ধরনের ঘটনা প্রতিরোধে এবং অনলাইনে শিশুদের নিরাপত্তা নিশ্চিত করতে তারা কী পদক্ষেপ নিচ্ছে, সে সম্পর্কে তথ্য দিতে বলছি।"

এই ঘটনা দ্রুত অগ্রসরমান এআই প্রযুক্তি দ্বারা সৃষ্ট বৃহত্তর সামাজিক চ্যালেঞ্জগুলোকে তুলে ধরে। এআই অসংখ্য সুবিধা দিলেও ক্ষতিকর কনটেন্ট তৈরি ও ছড়ানোর ক্ষেত্রে অপব্যবহারের সম্ভাবনা সহ এটি ঝুঁকিও তৈরি করে। বিশেষজ্ঞরা এই ঝুঁকিগুলো কমাতে শক্তিশালী সুরক্ষাব্যবস্থা এবং নৈতিক নির্দেশিকাগুলোর ওপর জোর দিয়েছেন।

বার্লিনের হার্টি স্কুলের এথিক্স অ্যান্ড টেকনোলজির অধ্যাপক ড. জোয়ানা ব্রাইসন বলেছেন, "বাস্তবসম্মত ছবি তৈরি করার এআই-এর ক্ষমতা সিএসএএম তৈরি এবং ছড়ানো নিয়ে গুরুতর উদ্বেগের জন্ম দেয়। এআই প্রযুক্তি তৈরি ও ব্যবহারকারী কোম্পানিগুলোর জন্য এর অপব্যবহার রোধ করতে এবং শিশুদের সুরক্ষার জন্য সক্রিয় পদক্ষেপ নেওয়া অত্যন্ত গুরুত্বপূর্ণ।"

অফকমের অনুরোধের বিষয়ে এক্স এখনো কোনো আনুষ্ঠানিক বিবৃতি দেয়নি। তবে কোম্পানিটি এর আগে তাদের প্ল্যাটফর্মে সিএসএএম-এর বিরুদ্ধে লড়াই করার প্রতিশ্রুতি দিয়েছে। তদন্ত চলছে, এবং অফকম আরও পদক্ষেপের প্রয়োজন আছে কিনা তা নির্ধারণের জন্য এক্স-এর প্রতিক্রিয়া মূল্যায়ন করবে। এই অনুসন্ধানের ফলাফল যুক্তরাজ্য এবং এর বাইরে এআই এবং অনলাইন সুরক্ষার নিয়ন্ত্রণের জন্য গুরুত্বপূর্ণ প্রভাব ফেলতে পারে।