যুক্তরাজ্য সরকার দেশটির যোগাযোগ নিয়ন্ত্রক সংস্থা অফকমকে সামাজিক মাধ্যম প্ল্যাটফর্ম X-এর বিরুদ্ধে তাদের সমস্ত ক্ষমতা ব্যবহারের কথা বিবেচনা করতে অনুরোধ করেছে, যার মধ্যে সাইটে অবৈধ কৃত্রিম বুদ্ধিমত্তা-ভিত্তিক ডিপফেক (deepfake) প্রদর্শনের উদ্বেগের কারণে নিষেধাজ্ঞা জারির সম্ভাবনাও রয়েছে। X-এর এআই মডেল, গ্রোক (Grok) ব্যবহার করে ডিজিটালভাবে পরিবর্তিত ছবি তৈরি করা, যার মধ্যে ব্যক্তি বিশেষের শরীর থেকে পোশাক সরিয়ে দেওয়া ছবিও রয়েছে, সেই বিষয়ে ক্রমবর্ধমান উদ্বেগের কারণে এই পদক্ষেপ নেওয়া হয়েছে।

অনলাইন সেফটি অ্যাক্ট (Online Safety Act) এর অধীনে অফকমের ক্ষমতা রয়েছে আদালতের আদেশ জারী করার, যা তৃতীয় পক্ষকে X-এর আর্থিক লেনদেন বা যুক্তরাজ্যে এর অ্যাক্সেসযোগ্যতা আটকাতে পারে। গ্রোকের মাধ্যমে যৌন উদ্দীপক ছবি তৈরি করার সম্ভাবনা, বিশেষ করে শিশুদের ছবি তৈরি করার আশঙ্কায় সরকারের উদ্বেগ আরও বেড়েছে।

প্রধানমন্ত্রী স্যার কেইর স্টারমার এই ধরনের ছবি তৈরির নিন্দা করে বলেন, "এটা লজ্জাজনক। এটা জঘন্য। এবং এটা সহ্য করা হবে না। এই বিষয়ে ব্যবস্থা নেওয়ার জন্য অফকমের প্রতি আমাদের সম্পূর্ণ সমর্থন রয়েছে।" তিনি আরও জোর দিয়ে সরকারের অবস্থান ব্যাখ্যা করে বলেন, "এটা বেআইনি। আমরা এটা সহ্য করব না। আমি সমস্ত বিকল্প খতিয়ে দেখার কথা বলেছি।" বিবিসি নিউজকে সরকারি সূত্র নিশ্চিত করেছে যে তারা আশা করছেন অফকম X-এ গ্রোকের সমস্যা সমাধানে তাদের সমস্ত ক্ষমতা ব্যবহার করবে।

ডিপফেক হল সিনথেটিক মিডিয়ার একটি রূপ, যা এআই, বিশেষ করে ডিপ লার্নিং কৌশল ব্যবহার করে অত্যন্ত বাস্তবসম্মত কিন্তু জাল ছবি, ভিডিও বা অডিও রেকর্ডিং তৈরি করে। এই প্রযুক্তি নৈতিক ও সামাজিক উদ্বেগের জন্ম দেয়, যার মধ্যে ভুল তথ্য, মানহানি এবং সম্মতিবিহীন পর্নোগ্রাফির সম্ভাবনা রয়েছে। ছবি এবং ভিডিওকে বিশ্বাসযোগ্যভাবে পরিবর্তন করার ক্ষমতা চাক্ষুষ তথ্যের উপর থেকে বিশ্বাস সরিয়ে দিতে পারে এবং বাস্তবতা ও কল্পনার মধ্যে পার্থক্য করা কঠিন করে তোলে।

অনলাইন সেফটি অ্যাক্ট অফকমকে অনলাইনে ক্ষতিকারক কনটেন্ট মোকাবিলা করার জন্য গুরুত্বপূর্ণ নিয়ন্ত্রক ক্ষমতা দিয়েছে। এই ক্ষমতার মধ্যে রয়েছে অবৈধ কনটেন্ট থেকে ব্যবহারকারীদের রক্ষা করতে ব্যর্থ হওয়া সংস্থাগুলির উপর জরিমানা আরোপ করা এবং চরম ক্ষেত্রে ওয়েবসাইটগুলিতে প্রবেশাধিকার বন্ধ করে দেওয়া। সরকারের পক্ষ থেকে অফকমকে নিষেধাজ্ঞার কথা বিবেচনা করার আহ্বান সামাজিক মাধ্যম প্ল্যাটফর্মে এআই-এর সম্ভাব্য অপব্যবহার সম্পর্কে তাদের উদ্বেগের গুরুত্ব তুলে ধরে।

এই পরিস্থিতি এআই-এর নিয়ন্ত্রণ এবং সমাজে এর সম্ভাব্য প্রভাব নিয়ে চলমান বিতর্ককে আরও বাড়িয়ে তোলে। এআই প্রযুক্তি ক্রমাগত উন্নত হওয়ার সাথে সাথে নিয়ন্ত্রক এবং নীতিনির্ধারকদের উদ্ভাবনের সঙ্গে সঙ্গে ব্যক্তি বিশেষের সুরক্ষার প্রয়োজনীয়তার মধ্যে ভারসাম্য বজায় রাখার চ্যালেঞ্জের মুখোমুখি হতে হচ্ছে। অফকমের তদন্তের ফলাফল এবং X-এর বিরুদ্ধে নেওয়া যে কোনও পদক্ষেপ সম্ভবত যুক্তরাজ্যে এআই-ভিত্তিক কনটেন্ট কীভাবে নিয়ন্ত্রিত হবে তার একটি নজির স্থাপন করবে এবং সম্ভবত অন্যান্য দেশেও অনুরূপ আলোচনাকে প্রভাবিত করবে। নিয়ন্ত্রক সংস্থা এখন প্রমাণের মূল্যায়ন করবে এবং অনলাইন সেফটি অ্যাক্টের অধীনে তার ক্ষমতার সম্পূর্ণ পরিধি বিবেচনা করে যথাযথ পদক্ষেপ নির্ধারণ করবে বলে আশা করা হচ্ছে।