যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম, পূর্বে টুইটার নামে পরিচিত এক্স-এর কাছে তাদের গ্রোক এআই মডেলের মাধ্যমে শিশুদের যৌন আবেদনময় ছবি তৈরি করার অভিযোগের বিষয়ে আনুষ্ঠানিকভাবে তথ্য জানতে চেয়েছে। ক্ষতিকর কনটেন্ট তৈরিতে কৃত্রিম বুদ্ধিমত্তার সম্ভাব্য অপব্যবহার এবং দ্রুত বিকাশমান এআই প্রযুক্তি নিয়ন্ত্রণের চ্যালেঞ্জগুলো নিয়ে ক্রমবর্ধমান উদ্বেগের পরেই এই পদক্ষেপ নেওয়া হয়েছে।

নিয়ন্ত্রক সংস্থার এই অনুসন্ধানের মূল উদ্দেশ্য হলো এক্স এই ধরনের ছবি তৈরি ও প্রচার বন্ধে পর্যাপ্ত পদক্ষেপ নিচ্ছে কিনা এবং শিশুদের সুরক্ষায় তাদের নিরাপত্তা ব্যবস্থা যথেষ্ট কিনা, তা মূল্যায়ন করা। অফকমের ক্ষতিকর কনটেন্ট থেকে ব্যবহারকারীদের রক্ষা করতে ব্যর্থ হওয়া সংস্থাগুলোকে জরিমানা করার ক্ষমতা আছে, এবং এই অনুসন্ধানটি যুক্তরাজ্যের আইন মেনে চলার ক্ষেত্রে এক্স-এর বিষয়ে একটি গুরুতর উদ্বেগের ইঙ্গিত দেয়।

অফকমের একজন মুখপাত্র বলেছেন, "এআই মডেলগুলোর সম্ভাব্য অপব্যবহার নিয়ে আমরা গভীরভাবে উদ্বিগ্ন। গ্রোক এআই মডেল ব্যবহার করে শিশুদের যৌন আবেদনময় ছবি তৈরি এবং বিতরণ বন্ধ করতে এক্স কী কী ব্যবস্থা নিয়েছে, সে সম্পর্কে বিস্তারিত তথ্য জানতে চেয়েছি।"

এক্স-এর এআই চ্যাটবট গ্রোক হলো একটি বৃহৎ ভাষা মডেল (এলএলএম)। এটি এক ধরনের এআই যা মানুষের মতো টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে এবং প্রশ্নের উত্তর দিতে বিপুল পরিমাণ টেক্সট ডেটার ওপর ভিত্তি করে প্রশিক্ষিত। এলএলএমগুলো তাদের প্রশিক্ষণের ডেটা থেকে প্যাটার্ন শেখে, এবং সেই ডেটাতে ক্ষতিকর কনটেন্ট থাকলে, মডেলটি অজান্তেই সেই ক্ষতিগুলো পুনরুৎপাদন বা প্রসারিত করতে পারে। এক্ষেত্রে, উদ্বেগ সৃষ্টি হয়েছে যে গ্রোক এমন ছবি তৈরি করতে পারে যা শিশুদের শোষণ, অপব্যবহার বা বিপদে ফেলে।

এআই মডেলগুলোকে ক্ষতিকর কনটেন্ট তৈরি করা থেকে বিরত রাখা একটি জটিল চ্যালেঞ্জ। এআই ডেভেলপাররা প্রশিক্ষণের ডেটা ফিল্টার করা, সুরক্ষা ব্যবস্থা প্রয়োগ করা এবং মডেল আউটপুট নিরীক্ষণের মতো বিভিন্ন কৌশল ব্যবহার করে অপব্যবহারের ঝুঁকি কমানোর চেষ্টা করেন। তবে, এই কৌশলগুলো সবসময় безошибочный নয়, এবং কিছু ব্যবহারকারী এগুলোকে বাইপাস করার উপায় খুঁজে বের করতে পারে। একে প্রায়শই "জেলব্রেকিং" বলা হয়।

অক্সফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্স গবেষক ডঃ অন্যা শর্মা ব্যাখ্যা করেন, "এটি একটি অবিরাম প্রতিযোগিতা। ডেভেলপাররা যখন সুরক্ষা ব্যবস্থা উন্নত করে, ব্যবহারকারীরা তখন সেগুলো এড়ানোর নতুন উপায় খুঁজে বের করে। আমাদের প্রযুক্তিগত সমাধান, নৈতিক নির্দেশিকা এবং শক্তিশালী নিয়ন্ত্রণসহ একটি বহুমাত্রিক পদ্ধতির প্রয়োজন।"

এই ঘটনাটি এআই বিকাশের ব্যাপক সামাজিক প্রভাবগুলোকে তুলে ধরে। এআই মডেলগুলো যত বেশি শক্তিশালী এবং সহজলভ্য হচ্ছে, অপব্যবহারের সম্ভাবনাও তত বাড়ছে। এটি এআই ডেভেলপারদের দায়িত্ব, সরকারি নিয়ন্ত্রণের ভূমিকা এবং এআই-এর ঝুঁকি ও সুবিধা সম্পর্কে জনসচেতনতার প্রয়োজনীয়তা নিয়ে প্রশ্ন তোলে।

এক্স অফকমের অনুরোধ স্বীকার করেছে এবং জানিয়েছে যে তারা তদন্তে সম্পূর্ণরূপে সহযোগিতা করছে। কোম্পানিটি নিরাপত্তা এবং তাদের এআই মডেলগুলোর অপব্যবহার রোধে তাদের প্রচেষ্টার প্রতি তাদের অঙ্গীকারের ওপর জোর দিয়েছে।

এক্স-এর এক বিবৃতিতে বলা হয়েছে, "আমরা এই উদ্বেগগুলোকে খুব গুরুত্ব সহকারে নিচ্ছি। আমরা আমাদের নিরাপত্তা ব্যবস্থা উন্নত করতে এবং ক্ষতিকর কনটেন্ট তৈরি বন্ধ করতে ক্রমাগত কাজ করছি। আমরা অফকমের তদন্তে সম্পূর্ণরূপে সহযোগিতা করছি এবং তাদের প্রয়োজনীয় সমস্ত তথ্য সরবরাহ করব।"

অফকমের তদন্ত চলছে, এবং নিয়ন্ত্রক সংস্থাটি যথাসময়ে তাদের findings প্রকাশ করবে বলে আশা করা হচ্ছে। এই তদন্তের ফলাফল এক্স এবং অন্যান্য এআই ডেভেলপারদের জন্য উল্লেখযোগ্য প্রভাব ফেলতে পারে, যা সম্ভবত কঠোর নিয়মকানুন এবং এআই সুরক্ষা অনুশীলনের ওপর আরও বেশি নজরদারির দিকে পরিচালিত করবে। এই ঘটনাটি এআই-এর বিকাশ ও ব্যবহারকে নিয়ন্ত্রণ করার জন্য একটি বিস্তৃত কাঠামোর জরুরি প্রয়োজনকে তুলে ধরে, যা নিশ্চিত করবে যে এটি দায়িত্বশীল এবং নৈতিকভাবে ব্যবহৃত হচ্ছে।