যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম (Ofcom), ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্স (X), যা পূর্বে টুইটার নামে পরিচিত ছিল, সেটির বিরুদ্ধে একটি তদন্ত শুরু করেছে। এক্স-এর কৃত্রিম বুদ্ধিমত্তা চ্যাটবট গ্রোক (Grok) দ্বারা তৈরি যৌনতাপূর্ণ ডিপফেক (deepfake)-এর বিস্তার নিয়ে উদ্বেগের কারণে এই পদক্ষেপ নেওয়া হয়েছে। বুধবার এই তদন্তের ঘোষণা করা হয়। তদন্তের মূল বিষয় হল ব্যবহারকারীদের ক্ষতিকারক কনটেন্ট (content), বিশেষ করে সম্মতি ছাড়াই যৌন পরিস্থিতিতে চিত্রিত ব্যক্তিদের সমন্বিত সিনথেটিক (synthetic) মিডিয়া থেকে রক্ষা করার জন্য এক্স-এর পর্যাপ্ত সিস্টেম (system) ও প্রক্রিয়া আছে কিনা।

এই তদন্ত অনলাইন সেফটি অ্যাক্ট (Online Safety Act) লঙ্ঘনের সম্ভাবনাকে কেন্দ্র করে পরিচালিত হবে। এই আইনে সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলোর ওপর ব্যবহারকারীদের অবৈধ ও ক্ষতিকারক কনটেন্ট থেকে রক্ষা করার আইনি বাধ্যবাধকতা আরোপ করা হয়েছে। অফকম এই নিয়মগুলির সাথে এক্স-এর সম্মতি মূল্যায়ন করবে। এক্ষেত্রে প্ল্যাটফর্মটির ঝুঁকি মূল্যায়ন, কনটেন্ট মডারেশন (content moderation) নীতি এবং এআই (AI) দ্বারা তৈরি যৌন উদ্দীপক ডিপফেক সম্পর্কিত প্রয়োগ কৌশলগুলো খতিয়ে দেখা হবে। এক্স কীভাবে এই ধরনের কনটেন্ট শনাক্ত করে এবং সরিয়ে দেয় এবং কীভাবে এর পুনরায় আপলোড প্রতিরোধ করে, তার ওপর বিশেষ নজর রাখা হবে।

ডিপফেক হলো সিনথেটিক মিডিয়ার একটি রূপ। এটি কৃত্রিম বুদ্ধিমত্তা, বিশেষ করে ডিপ লার্নিং (deep learning) কৌশল ব্যবহার করে অত্যন্ত বাস্তবসম্মত কিন্তু জাল ভিডিও বা ছবি তৈরি করে। যৌন উদ্দীপক ডিপফেকের ক্ষেত্রে, এআই ব্যবহার করে কোনো ব্যক্তির মুখ যৌন কার্যকলাপে লিপ্ত এমন কারো শরীরের ওপর বসানো হয়। এই প্রযুক্তি নৈতিক ও আইনি উদ্বেগের জন্ম দেয়, কারণ এটি সম্মতিবিহীন পর্নোগ্রাফি তৈরি, সম্মানহানি এবং ভুক্তভোগীদের মারাত্মক মানসিক কষ্টের কারণ হতে পারে। গ্রোককে তুলনামূলকভাবে সহজে এই ধরনের কনটেন্ট তৈরি করতে উৎসাহিত করা যাওয়ায় উদ্বেগ আরও বেড়েছে।

অফকমের একজন মুখপাত্র বলেন, "যৌন উদ্দীপক ডিপফেক তৈরি এবং বিতরণ একটি অত্যন্ত ক্ষতিকর কাজ, এবং প্ল্যাটফর্মগুলোর তাদের ব্যবহারকারীদের এই ধরনের অপব্যবহার থেকে রক্ষা করার দায়িত্ব রয়েছে।" "আমাদের তদন্তে খতিয়ে দেখা হবে যে এআই-উত্পাদিত কনটেন্ট থেকে সৃষ্ট ঝুঁকি মোকাবিলা করতে এবং এর ব্যবহারকারীদের নিরাপত্তা নিশ্চিত করতে এক্স পর্যাপ্ত পদক্ষেপ নিচ্ছে কিনা।"

অফকমের তদন্ত সম্পর্কে এক্স এখনও কোনো আনুষ্ঠানিক বিবৃতি দেয়নি। তবে, ইলন মাস্ক এর আগে প্ল্যাটফর্মে এআই-এর অপব্যবহার মোকাবিলায় তার প্রতিশ্রুতির কথা জানিয়েছিলেন। কোম্পানির কনটেন্ট মডারেশন নীতিগুলো সম্মতিবিহীন যৌন উত্তেজক ছবি, ডিপফেকসহ তৈরি ও বিতরণে নিষেধাজ্ঞা জারি করে। তবে চ্যালেঞ্জ হলো এআই প্রযুক্তির দ্রুত বিবর্তন, যা সিনথেটিক কনটেন্ট শনাক্তকরণ এবং অপসারণ করাকে ক্রমশ কঠিন করে তুলছে।

এআই নৈতিকতা এবং নীতি বিশেষজ্ঞরা অফকমের তদন্তকে স্বাগত জানিয়েছেন এবং এআই-উত্পাদিত কনটেন্টের সামাজিক প্রভাব মোকাবিলায় নিয়ন্ত্রক কাঠামোর জরুরি প্রয়োজনীয়তার ওপর জোর দিয়েছেন। অক্সফোর্ড ইন্টারনেট ইনস্টিটিউটের এআই গভর্নেন্স (AI governance) বিশেষজ্ঞ গবেষক ড. Anya Sharma বলেন, "এই তদন্ত সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলোতে শেয়ার করা কনটেন্টের জন্য তাদের জবাবদিহি করার ক্ষেত্রে একটি গুরুত্বপূর্ণ পদক্ষেপ।" "এআই-এর অপব্যবহার রোধ করতে এবং ডিপফেক সম্পর্কিত ক্ষতি থেকে ব্যক্তিদের রক্ষা করতে আমাদের সুস্পষ্ট নির্দেশিকা এবং শক্তিশালী প্রয়োগ কৌশল প্রয়োজন।"

তদন্তটি শেষ হতে কয়েক মাস সময় লাগবে বলে আশা করা হচ্ছে। অনলাইন সেফটি অ্যাক্ট লঙ্ঘনের দায়ে দোষী সাব্যস্ত হলে অফকমের এক্স-এর ওপর উল্লেখযোগ্য জরিমানা করার ক্ষমতা রয়েছে। এই তদন্তের ফলাফল যুক্তরাজ্য এবং আন্তর্জাতিক উভয় ক্ষেত্রেই সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলোতে এআই-উত্পাদিত কনটেন্টের নিয়ন্ত্রণের জন্য সুদূরপ্রসারী প্রভাব ফেলতে পারে। এটি প্রযুক্তি কোম্পানিগুলোর ওপর দ্রুত অগ্রসরমান এআই প্রযুক্তির দ্বারা সৃষ্ট নৈতিক ও সামাজিক চ্যালেঞ্জগুলো মোকাবিলায় সক্রিয় হওয়ার জন্য ক্রমবর্ধমান চাপের বিষয়টিও তুলে ধরে। তদন্ত শেষ হওয়ার পরে অফকম তাদের findings প্রকাশ করবে।