ডাউনিং স্ট্রিট নিশ্চিত করেছে যে X, যা পূর্বে টুইটার নামে পরিচিত ছিল, তাদের কৃত্রিম বুদ্ধিমত্তা মডেল গ্রোক ব্যবহার করে তৈরি করা ডিপফেকগুলির সমস্যা সমাধানে পদক্ষেপ নিচ্ছে। ক্রমবর্ধমান উদ্বেগের মধ্যে এই পদক্ষেপটি নেওয়া হয়েছে, যেখানে এআই-উত্পাদিত বিষয়বস্তু ব্যবহার করে ভুল তথ্য এবং অপপ্রচার ছড়ানোর সম্ভাবনা রয়েছে।

প্রধানমন্ত্রীর একজন মুখপাত্র বলেছেন, সরকার ডিপফেক সম্পর্কিত ঝুঁকি কমাতে যেকোনো প্রচেষ্টাকে স্বাগত জানায় এবং দায়িত্বশীল এআই ডেভলপমেন্ট এবং প্রয়োগের ওপর জোর দেয়। মুখপাত্র আরও বলেন, "আমরা প্ল্যাটফর্মগুলোকে এআই-উত্পাদিত বিষয়বস্তু সম্পর্কিত সম্ভাব্য ক্ষতি মোকাবেলায় সক্রিয় পদক্ষেপ নিতে দেখে উৎসাহিত হচ্ছি।" "সরকার শিল্প এবং অন্যান্য স্টেকহোল্ডারদের সাথে একটি নিরাপদ এবং নৈতিক উপায়ে এআই তৈরি এবং ব্যবহার নিশ্চিত করতে প্রতিশ্রুতিবদ্ধ।"

ডিপফেক হল সিনথেটিক মিডিয়া যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে অন্য কারো প্রতিচ্ছবি বসানো হয়। এটি সাধারণত অত্যাধুনিক মেশিন লার্নিং কৌশল ব্যবহার করে করা হয়, বিশেষ করে ডিপ লার্নিং অ্যালগরিদম - তাই এর নাম "ডিপফেক"। X-এর এআই মডেল গ্রোক, একটি বৃহৎ ভাষা মডেল (এলএলএম), যা চ্যাটজিপিটি এবং গুগলের জেমিনির মতো অন্যান্য এআই সরঞ্জামগুলিকে শক্তি যোগায়। এলএলএমগুলি টেক্সট এবং কোডের বিশাল ডেটাসেটের উপর প্রশিক্ষিত, যা তাদের মানুষের মতো টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে এবং বিভিন্ন ধরণের বিষয়বস্তু তৈরি করতে সক্ষম করে। উদ্বেগের বিষয় হল গ্রোক, অপব্যবহার করা হলে, বাস্তবসম্মত ডিপফেক তৈরি করতে পারে যা দর্শকদের প্রতারিত করতে এবং মিথ্যা তথ্য ছড়াতে সক্ষম।

X এখনও গ্রোক-উত্পাদিত ডিপফেক মোকাবেলায় কী কী পদক্ষেপ নিচ্ছে সে সম্পর্কে নির্দিষ্ট বিবরণ প্রকাশ করেনি। তবে, শিল্প বিশ্লেষকরা মনে করছেন যে কোম্পানিটি এআই-উত্পাদিত বিষয়বস্তুতে ওয়াটারমার্কিং, ডিপফেক সনাক্ত করার জন্য অ্যালগরিদম তৈরি করা এবং কঠোর বিষয়বস্তু নিরীক্ষণ নীতি বাস্তবায়নের মতো কৌশল ব্যবহার করতে পারে। ওয়াটারমার্কিং-এর মধ্যে এআই-উত্পাদিত বিষয়বস্তু চিহ্নিত করার জন্য একটি সূক্ষ্ম মার্কার এম্বেড করা হয়, যা প্রায়শই অদৃশ্য থাকে। সনাক্তকরণ অ্যালগরিদমগুলি ভিডিও এবং চিত্রগুলিতে কারসাজির লক্ষণগুলির জন্য বিশ্লেষণ করে, যেমন আলোতে অসামঞ্জস্যতা, অস্বাভাবিক মুখের নড়াচড়া, বা এআই জেনারেশন প্রক্রিয়ার মাধ্যমে প্রবর্তিত ত্রুটি।

ডিপফেকের উত্থান তথ্য ইকোসিস্টেমের জন্য একটি গুরুত্বপূর্ণ চ্যালেঞ্জ তৈরি করেছে। বিশেষজ্ঞরা সতর্ক করেছেন যে এই কারসাজি করা ভিডিও এবং চিত্রগুলি খ্যাতি নষ্ট করতে, নির্বাচনে প্রভাব ফেলতে এবং বিভেদ তৈরি করতে ব্যবহার করা যেতে পারে। ঘটনা এবং বিবৃতিকে বিশ্বাসযোগ্যভাবে জাল করার ক্ষমতা প্রতিষ্ঠানগুলোর ওপর থেকে আস্থা কমাতে পারে এবং জনমতকে দুর্বল করতে পারে।

সরকারের ডিজিটাল সেক্রেটারি সম্প্রতি ডিপফেকের ব্যবহার নিয়ন্ত্রণ করার জন্য আইন প্রবর্তনের পরিকল্পনা ঘোষণা করেছেন, যেখানে রাজনৈতিক বিজ্ঞাপন এবং অনলাইন নিরাপত্তার মতো ক্ষেত্রগুলির উপর দৃষ্টি নিবদ্ধ করা হয়েছে। প্রস্তাবিত আইনে এআই-উত্পাদিত বিষয়বস্তু প্রকাশের প্রয়োজনীয়তা এবং ক্ষতিকারক ডিপফেক ছড়ানোর জন্য প্ল্যাটফর্মগুলিকে দায়বদ্ধ করার ব্যবস্থা অন্তর্ভুক্ত থাকবে বলে আশা করা হচ্ছে।

Information Commissioner's Office (ICO), যুক্তরাজ্যের স্বাধীন ডেটা সুরক্ষা কর্তৃপক্ষ, এআই-এর নৈতিক প্রভাব এবং গোপনীয়তা ও ডেটা সুরক্ষার উপর এর সম্ভাব্য প্রভাবও পরীক্ষা করছে। ICO এআই সিস্টেমের দায়িত্বশীল ডেভলপমেন্ট এবং প্রয়োগের বিষয়ে একটি নির্দেশিকা জারি করেছে, যেখানে স্বচ্ছতা, জবাবদিহিতা এবং ন্যায্যতার প্রয়োজনীয়তার উপর জোর দেওয়া হয়েছে।

পরিস্থিতি এখনও পরিবর্তনশীল, এবং X-এর নির্দিষ্ট পদক্ষেপ সম্পর্কে আরও বিস্তারিত তথ্য আগামী কয়েক সপ্তাহের মধ্যে প্রত্যাশিত। এই পদক্ষেপগুলির কার্যকারিতা নীতিনির্ধারক, শিল্প বিশেষজ্ঞ এবং জনসাধারণ কর্তৃক নিবিড়ভাবে পর্যবেক্ষণ করা হবে। চলমান বিতর্কটি ডিপফেক দ্বারা সৃষ্ট চ্যালেঞ্জ মোকাবেলায় একটি বহুমাত্রিক পদ্ধতির জরুরি প্রয়োজনীয়তার ওপর আলোকপাত করে, যেখানে প্রযুক্তিগত সমাধান, নিয়ন্ত্রক কাঠামো এবং জনসচেতনতা প্রচার অন্তর্ভুক্ত।