ডাউনিং স্ট্রিট জানিয়েছে যে, X (পূর্বে যা টুইটার নামে পরিচিত ছিল) তার কৃত্রিম বুদ্ধিমত্তা মডেল গ্রোক দ্বারা তৈরি করা ডিপফেকগুলির সমস্যা সমাধানে পদক্ষেপ নিচ্ছে, এমন প্রতিবেদনের প্রতি তারা সমর্থন জানাচ্ছে। এআই-উত্পাদিত বিষয়বস্তুর অপব্যবহারের মাধ্যমে ভুল তথ্য এবং অপপ্রচার ছড়ানোর সম্ভাবনা নিয়ে ক্রমবর্ধমান উদ্বেগের মধ্যে এই পদক্ষেপটি নেওয়া হয়েছে।

প্রধানমন্ত্রীর একজন মুখপাত্র বলেছেন যে, সরকার উন্নত এআই প্রযুক্তির সাথে সম্পর্কিত ঝুঁকি হ্রাস করার যেকোনো প্রচেষ্টাকে স্বাগত জানায়। মুখপাত্র আরও বলেন, "আমরা এআই-এর দায়িত্বশীল উদ্ভাবনের প্রয়োজনীয়তা সম্পর্কে স্পষ্ট ছিলাম এবং আমরা দেখছি যে কোম্পানিগুলো সম্ভাব্য ক্ষতি মোকাবেলায় সক্রিয় পদক্ষেপ নিচ্ছে।"

ডিপফেকস ("ডিপ লার্নিং" এবং "ফেক" শব্দ দুটির মিশ্রণ) হল সিন্থেটিক মিডিয়া যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারও প্রতিরূপ দিয়ে প্রতিস্থাপন করা হয়। X-এর এআই মডেল গ্রোক বাস্তবসম্মত ছবি এবং ভিডিও তৈরি করতে সক্ষম, যা এই উদ্বেগ বাড়িয়েছে যে এটি ব্যক্তি বা ঘটনাগুলির বিশ্বাসযোগ্য কিন্তু মিথ্যা চিত্র তৈরি করতে ব্যবহার করা যেতে পারে। এই প্রযুক্তি জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্কের (GANs) উপর নির্ভর করে, যা এক ধরনের মেশিন লার্নিং আর্কিটেকচার যেখানে দুটি নিউরাল নেটওয়ার্ক একে অপরের সাথে প্রতিযোগিতা করে - একটি জাল সামগ্রী তৈরি করে এবং অন্যটি এটিকে আসল সামগ্রী থেকে আলাদা করার চেষ্টা করে - যতক্ষণ না তৈরি করা সামগ্রী অত্যন্ত বাস্তবসম্মত হয়।

X এখনও গ্রোক-উত্পাদিত ডিপফেকগুলির বিরুদ্ধে লড়াই করার জন্য তারা কী কী পদক্ষেপ নিচ্ছে সে সম্পর্কে নির্দিষ্ট বিবরণ প্রকাশ করেনি। তবে, শিল্প বিশ্লেষকরা মনে করছেন যে কোম্পানিটি এআই-উত্পাদিত সামগ্রীতে ওয়াটারমার্কিং করা, ডিপফেক সনাক্ত করার জন্য অ্যালগরিদম তৈরি করা এবং কঠোর সামগ্রী নিরীক্ষণ নীতি বাস্তবায়নের মতো কৌশলগুলি বিবেচনা করতে পারে। ওয়াটারমার্কিং-এর মধ্যে তৈরি করা সামগ্রীর মধ্যে একটি সূক্ষ্ম, প্রায়শই অদৃশ্য, মার্কার এম্বেড করা জড়িত, যা এটিকে এআই-উত্পাদিত হিসাবে চিহ্নিত করে। সনাক্তকরণ অ্যালগরিদমগুলি আলোতে অসামঞ্জস্যতা, অস্বাভাবিক মুখের নড়াচড়া, বা GAN প্রক্রিয়ার মাধ্যমে প্রবর্তিত আর্টিফ্যাক্টের মতো কারসাজির লক্ষণগুলির জন্য ছবি এবং ভিডিও বিশ্লেষণ করে।

ডিপফেকসের উত্থান রাজনীতি, মিডিয়া এবং বিনোদন সহ বিভিন্ন সেক্টরে ব্যাপক উদ্বেগের জন্ম দিয়েছে। বিশেষজ্ঞরা সতর্ক করেছেন যে ডিপফেকস জনমতকে প্রভাবিত করতে, খ্যাতি নষ্ট করতে এবং এমনকি সহিংসতা উস্কে দিতে ব্যবহার করা যেতে পারে। অপব্যবহারের সম্ভাবনা বিশেষভাবে নির্বাচনের প্রেক্ষাপটে তীব্র, যেখানে ডিপফেকস ব্যবহার করে প্রার্থীদের সম্পর্কে মিথ্যা তথ্য ছড়ানো বা ভোটারদের উপস্থিতি প্রভাবিত করা যেতে পারে।

যুক্তরাজ্য সরকার ডিপফেকসের সাথে সম্পর্কিত ঝুঁকি মোকাবেলার ব্যবস্থা সহ এআই-এর জন্য নিয়ন্ত্রক কাঠামো সক্রিয়ভাবে বিবেচনা করছে। অনলাইন সেফটি অ্যাক্ট, যা সম্প্রতি কার্যকর হয়েছে, তাতে ডিপফেকস সহ ক্ষতিকারক অনলাইন সামগ্রী মোকাবিলার বিধান রয়েছে। সরকার এআই শাসনের জন্য বিশ্বব্যাপী মান বিকাশের জন্য আন্তর্জাতিক অংশীদারদের সাথেও কাজ করছে।

গ্রোক ডিপফেকস মোকাবেলায় X কী কী পদক্ষেপ নেবে এবং সেই পদক্ষেপগুলি কতটা কার্যকর হবে তা এখনও দেখার বিষয়। সংস্থাটি আগামী সপ্তাহগুলিতে আরও বিস্তারিত তথ্য প্রকাশ করবে বলে আশা করা হচ্ছে। যেকোনো সমাধানের কার্যকারিতা সম্ভবত সনাক্তকরণ পদ্ধতির পরিশীলিততা এবং X কতটা দ্রুত উদ্ভূত হুমকির প্রতিক্রিয়া জানাতে পারে তার উপর নির্ভর করবে। এআই প্রযুক্তির চলমান বিকাশ এবং স্থাপনার জন্য সম্ভাব্য অপব্যবহার থেকে বাঁচতে ক্রমাগত সতর্কতা এবং অভিযোজন প্রয়োজন।