সরকার যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকমকে সামাজিক মাধ্যম প্ল্যাটফর্ম X-এর বিরুদ্ধে তাদের সমস্ত ক্ষমতা ব্যবহারের কথা বিবেচনা করতে অনুরোধ করেছে, যার মধ্যে নিষেধাজ্ঞা জারির সম্ভাবনাও রয়েছে। সাইটটিতে অবৈধ কৃত্রিম বুদ্ধিমত্তা-ভিত্তিক ছবি ছড়ানোর বিষয়ে উদ্বেগের কারণে এই পদক্ষেপ নেওয়া হয়েছে। X-এর এআই মডেল, গ্রোক ব্যবহার করে ডিপফেক তৈরির ক্রমবর্ধমান আশঙ্কার ফলস্বরূপ এই পদক্ষেপ, বিশেষত যেখানে ছবিতে থাকা ব্যক্তিদের ডিজিটালভাবে বস্ত্রহীন করা হচ্ছে।

অনলাইন সেফটি অ্যাক্টের অধীনে অফকমের এমন আদালতের আদেশ চাওয়ার ক্ষমতা রয়েছে যা তৃতীয় পক্ষকে ইলন মাস্কের মালিকানাধীন X-কে মূলধন বাড়াতে বা যুক্তরাজ্যের মধ্যে প্ল্যাটফর্মটিতে প্রবেশাধিকার পেতে সহায়তা করা থেকে আটকাতে পারে। গ্রোক ব্যবহার করে শিশুদের যৌনতাপূর্ণ ছবি তৈরির সম্ভাবনা থেকে সরকারের এই উদ্বেগের সৃষ্টি।

প্রধানমন্ত্রী স্যার কেইর স্টারমার এই ধরনের ছবি তৈরির নিন্দা করে বলেন, "এটা লজ্জাজনক। এটা জঘন্য। এবং এটা সহ্য করা হবে না। এই বিষয়ে ব্যবস্থা নেওয়ার জন্য অফকমের প্রতি আমাদের সম্পূর্ণ সমর্থন রয়েছে।" তিনি আরও জোর দিয়ে সরকারের অবস্থান ব্যাখ্যা করে বলেন, "এটা বেআইনি। আমরা এটা সহ্য করব না। আমি সমস্ত বিকল্প খতিয়ে দেখার কথা বলেছি," গ্রেটেস্ট হিটস রেডিওকে দেওয়া এক সাক্ষাৎকারে তিনি একথা বলেন। বিবিসি নিউজকে সরকারি সূত্র নিশ্চিত করেছে যে তারা "গ্রোক X এর ক্ষেত্রে অফকম তাদের হাতে থাকা সমস্ত ক্ষমতা ব্যবহার করবে বলে আশা করে।"

ডিপফেক ("ডিপ লার্নিং" এবং "ফেক" শব্দের মিশ্রণ) হল সিনথেটিক মিডিয়া যেখানে কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারও প্রতিরূপ দিয়ে প্রতিস্থাপন করা হয়। যদিও বিনোদন এবং শৈল্পিক অভিব্যক্তি সহ ডিপফেকের বিভিন্ন ব্যবহার রয়েছে, তবে এর অপব্যবহারের সম্ভাবনা, যেমন সম্মতি ছাড়াই অন্তরঙ্গ ছবি তৈরি করা বা ভুল তথ্য ছড়ানো, উল্লেখযোগ্য নৈতিক ও আইনি উদ্বেগের জন্ম দেয়। গ্রোকের মতো এআই মডেলগুলির পরিশীলিততা আসল এবং কারসাজি করা বিষয়বস্তুর মধ্যে পার্থক্য করা ক্রমশ কঠিন করে তুলেছে, যা বিষয়টিকে আরও জটিল করে তুলেছে।

অনলাইন সেফটি অ্যাক্ট অফকমকে অনলাইন বিষয়বস্তু নিয়ন্ত্রণ এবং ব্যবহারকারীদের ক্ষতি থেকে রক্ষা করার জন্য উল্লেখযোগ্য ক্ষমতা দিয়েছে। এই ক্ষমতার মধ্যে রয়েছে জরিমানা ধার্য করা, অবৈধ বিষয়বস্তু অপসারণের দাবি করা এবং চরম ক্ষেত্রে ওয়েবসাইটগুলিতে প্রবেশাধিকার বন্ধ করা। X-এর উপর নিষেধাজ্ঞা জারির কথা বিবেচনা করার জন্য সরকারের অফকমকে অনুরোধ জানানো থেকে এআই-ভিত্তিক ডিপফেকগুলির সঙ্গে জড়িত সম্ভাব্য ক্ষতির বিষয়ে তারা কতটা গুরুত্ব দিচ্ছে, তা স্পষ্ট হয়।

পরিস্থিতি এখনও পরিবর্তনশীল, এবং অফকম কী ধরনের পদক্ষেপ নেবে তা এখনও স্পষ্ট নয়। নিয়ন্ত্রক সংস্থা সিদ্ধান্ত নেওয়ার আগে প্রমাণ এবং আইনি কাঠামো সাবধানে বিবেচনা করবে বলে আশা করা হচ্ছে। এই মামলার ফলাফল এআই-ভিত্তিক বিষয়বস্তুর নিয়ন্ত্রণ এবং এআই প্রযুক্তির অপব্যবহার মোকাবিলায় সামাজিক মাধ্যম প্ল্যাটফর্মগুলির দায়িত্বের উপর গুরুত্বপূর্ণ প্রভাব ফেলতে পারে।