সরকার যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকমকে সামাজিক মাধ্যম প্ল্যাটফর্ম X-এর বিরুদ্ধে তার সমস্ত ক্ষমতা ব্যবহারের কথা বিবেচনা করার জন্য অনুরোধ করেছে, যার মধ্যে সাইটে অবৈধ কৃত্রিম বুদ্ধিমত্তা-উত্পাদিত ছবি প্রচারের উদ্বেগের কারণে নিষেধাজ্ঞা জারির সম্ভাবনাও রয়েছে। এই পদক্ষেপটি X-এর এআই মডেল, গ্রোককে (Grok) ব্যবহার করে ডিপফেক তৈরি করার বিষয়ে ক্রমবর্ধমান উদ্বেগের ফলস্বরূপ, বিশেষ করে যেখানে ছবিতে থাকা ব্যক্তিদের ডিজিটালভাবে বস্ত্রহীন করা হচ্ছে।

অনলাইন সেফটি অ্যাক্টের (Online Safety Act) অধীনে অফকমের ক্ষমতা রয়েছে আদালতের আদেশ চাওয়ার, যা তৃতীয় পক্ষের সংস্থাগুলিকে যুক্তরাজ্যে X-কে আর্থিক সহায়তা প্রদান বা ব্যবহারের সুযোগ দেওয়া থেকে আটকাতে পারে। সরকারের উদ্বেগের কারণ হল গ্রোকের মাধ্যমে যৌনতাপূর্ণ ছবি তৈরি করার সম্ভাবনা, যার মধ্যে শিশুদের ছবিও থাকতে পারে।

প্রধানমন্ত্রী স্যার কেইর স্টারমার এই ধরনের ছবি তৈরির নিন্দা করে বলেন, "এটা লজ্জাজনক। এটা জঘন্য। এবং এটা সহ্য করা হবে না। এই বিষয়ে ব্যবস্থা নেওয়ার জন্য অফকমের প্রতি আমাদের সম্পূর্ণ সমর্থন রয়েছে।" তিনি আরও জোর দিয়ে সরকারের অবস্থান ব্যাখ্যা করেন, "এটা বেআইনি। আমরা এটা সহ্য করব না। আমি সমস্ত বিকল্প খতিয়ে দেখার কথা বলেছি।" বিবিসি নিউজকে সরকারি সূত্র নিশ্চিত করেছে যে X-এ গ্রোক সম্পর্কিত সমস্যাগুলির প্রতিক্রিয়ায় অফকম সমস্ত উপলব্ধ ব্যবস্থা খতিয়ে দেখবে বলে আশা করা হচ্ছে।

ডিপফেক হল এক ধরনের সিনথেটিক মিডিয়া (synthetic media), যা বাস্তবসম্মত কিন্তু জাল ছবি, ভিডিও বা অডিও রেকর্ডিং তৈরি করতে এআই (AI) ব্যবহার করে, বিশেষ করে ডিপ লার্নিং কৌশল ব্যবহার করে। এই প্রযুক্তি নৈতিক ও আইনি প্রশ্ন তোলে, বিশেষ করে যখন এটি সম্মতি ছাড়াই অন্তরঙ্গ ছবি তৈরি করতে বা ভুল তথ্য ছড়াতে ব্যবহৃত হয়। এআই-এর (AI) মাধ্যমে বিশ্বাসযোগ্যভাবে বিষয়বস্তু পরিবর্তন বা তৈরি করার ক্ষমতা তথ্য যাচাই এবং ব্যক্তিদের ক্ষতি থেকে বাঁচানোর ক্ষেত্রে একটি চ্যালেঞ্জ তৈরি করে।

অনলাইন সেফটি অ্যাক্ট (Online Safety Act) অফকমকে অনলাইন প্ল্যাটফর্মগুলি নিয়ন্ত্রণ এবং ক্ষতিকারক বিষয়বস্তু মোকাবিলা করার জন্য যথেষ্ট ক্ষমতা দিয়েছে। এর মধ্যে রয়েছে কোম্পানিকে জরিমানা করা, ওয়েবসাইটে প্রবেশ বন্ধ করা এবং ব্যবহারকারীদের সুরক্ষায় ব্যর্থতার জন্য ব্যক্তিগত নির্বাহীদের (Executives) দায়ী করা। এই আইনের লক্ষ্য হল অনলাইন সুরক্ষার জন্য একটি কাঠামো তৈরি করা, যেখানে প্ল্যাটফর্মগুলোকে অবৈধ বিষয়বস্তু অপসারণ এবং ব্যবহারকারীদের ক্ষতি থেকে রক্ষা করতে হবে।

এই পরিস্থিতি এআই-এর (AI) নিয়ন্ত্রণ এবং সমাজে এর সম্ভাব্য প্রভাব নিয়ে চলমান বিতর্ককে তুলে ধরে। এআই (AI) প্রযুক্তি ক্রমাগত উন্নত হওয়ার সাথে সাথে, নীতিনির্ধারক এবং নিয়ন্ত্রকরা উদ্ভাবনের সঙ্গে এর অপব্যবহারের কারণে ব্যক্তিদের সম্ভাব্য ক্ষতি থেকে বাঁচানোর মধ্যে ভারসাম্য রক্ষার জন্য সংগ্রাম করছেন। অফকমের তদন্তের ফলাফল এবং X-এর বিরুদ্ধে নেওয়া যে কোনও পদক্ষেপ সম্ভবত অনলাইন প্ল্যাটফর্মে এআই (AI) দ্বারা তৈরি বিষয়বস্তু নিয়ন্ত্রণে যুক্তরাজ্যের জন্য একটি নজির স্থাপন করবে। নিয়ন্ত্রক সংস্থা এখন প্রমাণের পর্যালোচনা করবে এবং অনলাইন সেফটি অ্যাক্টের (Online Safety Act) অধীনে তার ক্ষমতার সম্পূর্ণ পরিধি বিবেচনা করে যথাযথ পদক্ষেপ নির্ধারণ করবে বলে আশা করা হচ্ছে।