এআই প্রযুক্তির সম্ভাব্য অপব্যবহার নিয়ে ব্যাপক সমালোচনা ও পর্যালোচনার পর এই পদক্ষেপ নেওয়া হয়েছে। ২০২৩ সালে চালু হওয়া গ্রোক, ছবি কারসাজি সহ বিভিন্ন ধরনের কনটেন্ট তৈরি করার জন্য ডিজাইন করা হয়েছে। ব্যবহারকারীরা যখন আবিষ্কার করেন যে এই এআইকে ব্যবহার করে বাস্তব মানুষের আপত্তিকর পরিস্থিতির ডিপফেক তৈরি করা যেতে পারে, তখন উদ্বেগ সৃষ্টি হয়।

যুক্তরাজ্য সরকার এই ঘোষণার প্রতিক্রিয়ায় একে "সঠিক প্রমাণ" হিসেবে অভিহিত করেছে এবং এক্সকে গ্রোক নিয়ন্ত্রণ করার জন্য তাদের আহ্বানের কথা উল্লেখ করেছে। নিয়ন্ত্রক সংস্থা অফকমও একই সুর প্রতিধ্বনিত করে এই পরিবর্তনকে "স্বাগত অগ্রগতি" হিসাবে বর্ণনা করেছে, তবে জোর দিয়ে বলেছে যে প্ল্যাটফর্মটি যুক্তরাজ্যের আইন লঙ্ঘন করেছে কিনা, সেই বিষয়ে তাদের তদন্ত "এখনও চলছে"। অফকম জানিয়েছে, "আমরা দিনরাত কাজ করে যাচ্ছি এই বিষয়ে অগ্রগতি আনতে এবং কী ভুল হয়েছে এবং তা সমাধানের জন্য কী করা হচ্ছে তার উত্তর পেতে।"

প্রযুক্তি বিষয়ক সেক্রেটারি লিজ কেন্ডালও এই পরিবর্তনকে স্বাগত জানিয়েছেন, তবে যোগ করেছেন যে তিনি "অফকমের চলমান তদন্ত দ্বারা ঘটনাগুলো সম্পূর্ণরূপে এবং জোরালোভাবে প্রতিষ্ঠিত হবে বলে আশা করেন।"

গ্রোকের অপব্যবহার রোধে এক্স কর্তৃক বাস্তবায়িত নির্দিষ্ট প্রযুক্তিগত ব্যবস্থাগুলো ঘোষণায় বিস্তারিতভাবে জানানো হয়নি। তবে কোম্পানিটি ইঙ্গিত দিয়েছে যে এই ধরনের ডিপফেক তৈরি এবং বিতরণের বিষয়টি যেখানে অবৈধ, সেইসব বিচারব্যবস্থায় এই বিধিনিষেধ প্রযোজ্য হবে। এটি একটি জিও-ফেনসিং পদ্ধতি ব্যবহারের ইঙ্গিত দেয়, যেখানে ব্যবহারকারীর অবস্থানের উপর ভিত্তি করে এআই-এর ক্ষমতা সীমিত করা হবে।

প্রচারকারীরা এবং ক্ষতিগ্রস্তরা মত প্রকাশ করেছেন যে এই পরিবর্তনটি অনেক আগেই হওয়া উচিত ছিল, কারণ এই প্রযুক্তির দ্বারা ইতিমধ্যে ক্ষতি যা হওয়ার তা হয়ে গেছে। সাংবাদিক ও প্রচারক জেস ডেভিস, যিনি এই প্রযুক্তির দ্বারা ক্ষতিগ্রস্ত হয়েছেন, তিনি আরও শক্তিশালী নিয়মকানুন এবং প্রতিরোধমূলক ব্যবস্থা গ্রহণের প্রয়োজনীয়তার বিষয়ে সোচ্চার হয়েছেন।

এই ঘটনাটি এআই প্রযুক্তি নিয়ন্ত্রণ এবং এর অপব্যবহার প্রতিরোধের চলমান চ্যালেঞ্জগুলো তুলে ধরে। গ্রোকের ক্ষমতা সীমাবদ্ধ করার জন্য এক্স-এর সিদ্ধান্ত একটি সঠিক পদক্ষেপ হলেও, এটি প্ল্যাটফর্মের প্রাথমিক তত্ত্বাবধান এবং অন্যান্য এআই সরঞ্জামগুলোর ক্ষেত্রে অনুরূপ সমস্যা দেখা দেওয়ার সম্ভাবনা সম্পর্কে প্রশ্ন তোলে। এই সিদ্ধান্তের শিল্প প্রভাব এআই-চালিত প্ল্যাটফর্মগুলোর উপর আরও বেশি মনোযোগ এবং দায়িত্বশীল এআই ডেভলপমেন্ট ও প্রয়োগের উপর বৃহত্তর জোর দিতে পারে।