বেআইনি এআই-ভিত্তিক ছদ্মবেশী ছবি তৈরি ও বিতরণের উদ্বেগের জেরে সামাজিক মাধ্যম প্ল্যাটফর্ম X-এর বিরুদ্ধে সম্ভাব্য নিষেধাজ্ঞা সহ তাদের সমস্ত ক্ষমতা ব্যবহারের কথা বিবেচনা করার জন্য যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকমকে সরকার অনুরোধ করেছে। X-এর এআই মডেল, গ্রোক ব্যবহারের বিষয়ে ক্রমবর্ধমান সমালোচনার পরে এই পদক্ষেপ নেওয়া হয়েছে, যা ব্যক্তিদের থেকে পোশাক সরিয়ে ডিজিটালভাবে ছবি পরিবর্তন করতে ব্যবহৃত হয়েছে।

অনলাইন সেফটি অ্যাক্টের অধীনে অফকমের ক্ষমতা রয়েছে আদালতের আদেশের মাধ্যমে তৃতীয় পক্ষকে X-কে আর্থিক সহায়তা প্রদান করা থেকে বিরত রাখা অথবা যুক্তরাজ্যে প্ল্যাটফর্মটিতে প্রবেশাধিকার বন্ধ করা। সরকারের উদ্বেগের কারণ হল গ্রোকের মাধ্যমে যৌন উত্তেজক ছবি তৈরি করার সম্ভাবনা, বিশেষ করে শিশুদের ছবি।

প্রধানমন্ত্রী স্যার কেইর স্টারমার এই ধরনের ছবি তৈরির নিন্দা করে বলেন, "এটা লজ্জাজনক। এটা জঘন্য। এবং এটা সহ্য করা হবে না। এই বিষয়ে ব্যবস্থা নেওয়ার জন্য অফকমের প্রতি আমাদের পূর্ণ সমর্থন রয়েছে।" তিনি আরও জোর দিয়ে সরকারের অবস্থান ব্যাখ্যা করে বলেন, "এটা বেআইনি। আমরা এটা সহ্য করব না। আমি সমস্ত বিকল্প খতিয়ে দেখার কথা বলেছি," গ্রেটেস্ট হিটস রেডিওর সাথে একটি সাক্ষাৎকারে তিনি একথা বলেন।

বিবিসি নিউজকে সরকারি সূত্র নিশ্চিত করেছে যে গ্রোক এবং X সম্পর্কিত সমস্যাগুলির প্রতিক্রিয়ায় অফকম তাদের সমস্ত উপলব্ধ ক্ষমতা ব্যবহার করবে বলে তারা আশা করছেন।

মূল সমস্যাটি হল জেনারেটিভ এআই-এর অপব্যবহার, যা এক ধরনের কৃত্রিম বুদ্ধিমত্তা এবং ছবি, টেক্সট এবং অডিওসহ নতুন কন্টেন্ট তৈরি করতে সক্ষম। জেনারেটিভ এআই উদ্ভাবন এবং সৃজনশীলতার জন্য উল্লেখযোগ্য সম্ভাবনা বহন করলেও এর অপব্যবহার গুরুতর নৈতিক ও আইনি উদ্বেগের জন্ম দেয়। ডিপফেকস, এআই-ভিত্তিক এমন একটি মাধ্যম যা কাউকে এমন কিছু করতে বা বলতে দেখাচ্ছে যা সে করেনি, এটি বিশেষভাবে উদ্বেগজনক। বাস্তবসম্মত কিন্তু জাল ছবি তৈরি করার ক্ষমতা বিদ্বেষপূর্ণ উদ্দেশ্যে ব্যবহার করা যেতে পারে, যার মধ্যে ভুল তথ্য ছড়ানো, সম্মানহানি করা এবং সম্মতিবিহীন অন্তরঙ্গ ছবি তৈরি করা অন্যতম।

অনলাইন সেফটি অ্যাক্ট অফকমকে অনলাইন পরিষেবাগুলি নিয়ন্ত্রণ এবং ক্ষতিকারক কন্টেন্ট মোকাবিলা করার ক্ষমতা দিয়েছে। এর মধ্যে জরিমানা করা, অবৈধ কন্টেন্ট অপসারণের দাবি জানানো এবং চরম ক্ষেত্রে, আইন মেনে চলতে ব্যর্থ হওয়া প্ল্যাটফর্মগুলিতে প্রবেশাধিকার বন্ধ করার ক্ষমতাও অন্তর্ভুক্ত। অফকমকে নিষেধাজ্ঞার কথা বিবেচনা করার জন্য সরকারের আহ্বান এআই-ভিত্তিক কন্টেন্টের কারণে ক্ষতির সম্ভাবনা সম্পর্কে তাদের উদ্বেগের তীব্রতাকে তুলে ধরে।

এই পরিস্থিতি দ্রুত বিকশিত হতে থাকা এআই প্রযুক্তিগুলি নিয়ন্ত্রণের চ্যালেঞ্জগুলোকেও তুলে ধরে। এআই মডেলগুলি যত অত্যাধুনিক হচ্ছে, ক্ষতিকারক কন্টেন্ট তৈরি করা শনাক্ত এবং প্রতিরোধ করা ততই কঠিন হয়ে পড়ছে। এর জন্য প্রযুক্তিগত সমাধান, যেমন এআই-ভিত্তিক সনাক্তকরণ সরঞ্জাম, সেইসাথে নিয়ন্ত্রক কাঠামো এবং জনসচেতনতা প্রচারণার মতো বহু-মুখী পদ্ধতির প্রয়োজন।

X এবং গ্রোককে ঘিরে বিতর্ক এআই-এর যুগে সামাজিক মাধ্যম প্ল্যাটফর্মগুলোর দায়িত্ব নিয়ে একটি বৃহত্তর আলোচনার প্রতিফলন ঘটায়। সমালোচকদের যুক্তি হল প্ল্যাটফর্মগুলোর তাদের প্রযুক্তির অপব্যবহার রোধ করা এবং ব্যবহারকারীদের ক্ষতি থেকে রক্ষা করার একটি কর্তব্য রয়েছে। তবে, বাকস্বাধীনতার সমর্থকরা অতিরিক্ত কঠোর প্রবিধানের বিরুদ্ধে সতর্ক করেছেন যা উদ্ভাবনকে ব্যাহত করতে পারে এবং মত প্রকাশের স্বাধীনতাকে সীমিত করতে পারে।

অফকম বর্তমানে পরিস্থিতি মূল্যায়ন করছে এবং তাদের বিকল্পগুলো বিবেচনা করছে। নিয়ন্ত্রক সংস্থার সিদ্ধান্ত সম্ভবত যুক্তরাজ্যে এআই নিয়ন্ত্রণের ভবিষ্যতের জন্য উল্লেখযোগ্য প্রভাব ফেলবে এবং অনুরূপ চ্যালেঞ্জ মোকাবেলা করা অন্যান্য দেশের জন্য একটি নজির স্থাপন করতে পারে। পরবর্তী পদক্ষেপগুলির মধ্যে রয়েছে অফকম কর্তৃক প্রমাণ সংগ্রহ, বিশেষজ্ঞদের সাথে পরামর্শ এবং সরকারের উদ্বেগ নিরসনে X-এর সাথে আলোচনা করা। এই প্রক্রিয়ার ফলাফল এখনও অনিশ্চিত, তবে এটা স্পষ্ট যে এআই-ভিত্তিক কন্টেন্ট এবং এর ক্ষতির সম্ভাবনা নিয়ন্ত্রক এবং নীতিনির্ধারকদের জন্য একটি প্রধান কেন্দ্রবিন্দু হিসেবে অব্যাহত থাকবে।