যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম, ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম X (পূর্বে যা টুইটার নামে পরিচিত ছিল)-এর Grok নামক কৃত্রিম বুদ্ধিমত্তা চ্যাটবট দ্বারা তৈরি যৌনতাপূর্ণ ডিপফেক (deepfake) তৈরি এবং বিতরণের সম্ভাবনা নিয়ে উদ্বেগের কারণে একটি তদন্ত শুরু করেছে। বুধবার এই তদন্তের ঘোষণা করা হয়। X তাদের এআই (AI) টুল ব্যবহার করে অবৈধ কন্টেন্ট, বিশেষ করে সম্মতিবিহীন অন্তরঙ্গ ছবি তৈরি ও বিতরণ করা বন্ধ করতে পর্যাপ্ত সুরক্ষা ব্যবস্থা নিয়েছে কিনা, তা এই তদন্তের মূল বিষয়।

এই তদন্তে অনলাইন সেফটি অ্যাক্ট (Online Safety Act)-এর সাথে X-এর সম্মতি খতিয়ে দেখা হবে। এই আইন প্ল্যাটফর্মগুলোকে অবৈধ কন্টেন্ট এবং কার্যকলাপ থেকে ব্যবহারকারীদের রক্ষা করার জন্য আইনি বাধ্যবাধকতা দেয়। অফকমের এই আইনের লঙ্ঘন হলে কোম্পানিগুলোর বৈশ্বিক আয়ের ১০% পর্যন্ত জরিমানা করার ক্ষমতা আছে। অফকমের একজন মুখপাত্র বলেন, "অনলাইনে অবৈধ কন্টেন্ট থেকে ব্যবহারকারীদের রক্ষা করা আমাদের প্রধান অগ্রাধিকার। Grok এআই (AI) ব্যবহার করে অবৈধ ডিপফেক তৈরি এবং শেয়ার করা বন্ধ করতে X পর্যাপ্ত পদক্ষেপ নিয়েছে কিনা, তা মূল্যায়ন করার জন্য আমরা তদন্ত করছি।"

ডিপফেক ("ডিপ লার্নিং" এবং "ফেক" শব্দ দুটির মিশ্রণ) হল সিনথেটিক মিডিয়া, যেখানে কোনো বিদ্যমান ছবি বা ভিডিওতে থাকা কোনো ব্যক্তির জায়গায় অন্য কারো প্রতিচ্ছবি বসানো হয়। অত্যাধুনিক এআই (AI) অ্যালগরিদম দ্বারা চালিত এই প্রযুক্তি ভুল তথ্য, গোপনীয়তা লঙ্ঘন এবং সম্মতিবিহীন পর্নোগ্রাফি তৈরি সহ বিদ্বেষপূর্ণ ব্যবহারের সম্ভাবনা সম্পর্কে উল্লেখযোগ্য উদ্বেগ সৃষ্টি করেছে। X-এর এআই (AI) চ্যাটবট Grok একটি বৃহৎ ভাষার মডেল (LLM), যা টেক্সট এবং কোডের একটি বিশাল ডেটা সেটের উপর প্রশিক্ষিত, যা এটিকে মানুষের মতো টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে এবং প্রশ্নের উত্তর দিতে সক্ষম করে। উদ্বেগের বিষয় হল ব্যবহারকারীরা Grok-কে প্ররোচিত করে কোনো ব্যক্তির সম্মতি ছাড়াই তাদের যৌনতাপূর্ণ ছবি তৈরি করতে পারে।

এই তদন্তটি এআই (AI) দ্বারা তৈরি কন্টেন্ট নিয়ন্ত্রণ এবং এই প্রযুক্তি ব্যবহারকারী প্ল্যাটফর্মগুলোর দায়িত্বের ক্রমবর্ধমান চ্যালেঞ্জগুলো তুলে ধরে। বিশেষজ্ঞরা বলছেন যে এআই (AI) অসংখ্য সুবিধা দিলেও এটি অপব্যবহারের নতুন পথও খুলে দেয়। কেমব্রিজ বিশ্ববিদ্যালয়ের এআই (AI) এথিক্সের অধ্যাপক ড. অনন্যা শর্মা বলেন, "Grok-এর মতো এআই (AI) প্রযুক্তির দ্রুত অগ্রগতি সম্ভাব্য ক্ষতি কমাতে সক্রিয় পদক্ষেপের প্রয়োজনীয়তা তৈরি করেছে। প্ল্যাটফর্মগুলোকে অবশ্যই ডিপফেক তৈরি এবং বিতরণ, বিশেষ করে যেগুলো যৌনতাপূর্ণ এবং সম্মতিবিহীন, তা বন্ধ করার জন্য শক্তিশালী সুরক্ষা ব্যবস্থা বাস্তবায়ন করতে হবে।"

অফকমের তদন্ত সম্পর্কে X এখনও কোনো আনুষ্ঠানিক বিবৃতি দেয়নি। তবে মাস্ক এর আগে প্ল্যাটফর্মে এআই (AI)-এর অপব্যবহার রোধে তার প্রতিশ্রুতির কথা জানিয়েছিলেন। এই তদন্তের ফলাফল X এবং অন্যান্য সোশ্যাল মিডিয়া কোম্পানিগুলোর জন্য গুরুত্বপূর্ণ প্রভাব ফেলতে পারে, যারা তাদের পরিষেবাগুলোতে এআই (AI) যুক্ত করছে। অফকমের findings সম্ভবত যুক্তরাজ্য এবং আন্তর্জাতিক উভয় ক্ষেত্রেই এআই (AI) দ্বারা তৈরি কন্টেন্টের জন্য নিয়ন্ত্রক কাঠামো তৈরিতে প্রভাব ফেলবে। তদন্তটি চলমান, এবং অফকম অগ্রগতি হওয়ার সাথে সাথে আপডেট জানাবে বলে আশা করা হচ্ছে।