গ্রোক এআই-এর উত্থান এবং এর অপব্যবহারের সম্ভাবনা বিশেষভাবে উল্লেখযোগ্য হওয়ায়, সরকার ডিপফেক মোকাবিলার জন্য প্রণীত আইনের বাস্তবায়ন বিলম্বিত করার অভিযোগে অভিযুক্ত হচ্ছে। সমালোচকরা বলছেন যে নিয়ন্ত্রক পদক্ষেপের ধীর গতি সমাজকে ক্রমবর্ধমান অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির ক্ষতিকারক ব্যবহারের জন্য অরক্ষিত করে তুলছে।

xAI দ্বারা তৈরি Grok-এর মতো AI মডেলগুলি অত্যন্ত বাস্তবসম্মত এবং প্রতারণামূলক অডিও এবং ভিডিও সামগ্রী তৈরি করতে পারার ক্ষমতার উপর উদ্বেগ কেন্দ্রীভূত। জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক (GANs) এবং ডিফিউশন মডেলের মতো কৌশল ব্যবহার করে তৈরি করা ডিপফেকগুলি বাস্তব ব্যক্তিদের বিশ্বাসযোগ্যভাবে নকল করতে পারে, যা খাঁটি এবং জাল উপাদানের মধ্যে পার্থক্য করা কঠিন করে তোলে। এই ক্ষমতা রাজনৈতিক কারসাজি, জালিয়াতি এবং খ্যাতিহানির জন্য উল্লেখযোগ্য ঝুঁকি তৈরি করে।

ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের বার্কলির এআই এথিক্সের অধ্যাপক ডঃ অনন্যা শর্মা বলেন, "প্রযুক্তি খুব দ্রুত বিকশিত হচ্ছে, কিন্তু আমাদের আইনি কাঠামো অনেক পিছিয়ে আছে।" "ডিপফেক দ্বারা সৃষ্ট নির্দিষ্ট চ্যালেঞ্জগুলির মোকাবিলার জন্য আমাদের সক্রিয় আইন প্রয়োজন, যার মধ্যে দায়বদ্ধতা, বিষয়বস্তু লেবেলিং এবং ব্যবহারকারীর শিক্ষার বিষয়ে স্পষ্ট নির্দেশিকা থাকতে হবে।"

জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক বা GANs-এর মধ্যে দুটি নিউরাল নেটওয়ার্ক জড়িত: একটি জেনারেটর যা সিন্থেটিক ডেটা তৈরি করে এবং অন্যটি ডিসক্রিমিনেটর যা আসল এবং নকল ডেটার মধ্যে পার্থক্য করার চেষ্টা করে। এই প্রতিকূল প্রক্রিয়ার মাধ্যমে, জেনারেটর ক্রমবর্ধমান বাস্তবসম্মত আউটপুট তৈরি করতে শেখে। ডিফিউশন মডেল, ডিপফেক তৈরিতে ব্যবহৃত অন্য একটি কৌশল, একটি ছবি বা ভিডিওতে ধীরে ধীরে নয়েজ যোগ করে এবং তারপর প্রক্রিয়াটি বিপরীত করতে শেখে, নয়েজ থেকে নতুন সামগ্রী তৈরি করে।

আইন প্রণয়নে বিলম্বের কারণগুলির মধ্যে রয়েছে প্রযুক্তির জটিলতা, আন্তর্জাতিক সহযোগিতার প্রয়োজনীয়তা এবং বাকস্বাধীনতার উপর হস্তক্ষেপের উদ্বেগ। কিছু নীতিনির্ধারক যুক্তি দেন যে অতিরিক্ত বিস্তৃত প্রবিধান উদ্ভাবনকে দমিয়ে দিতে পারে এবং এআই-এর উপকারী অ্যাপ্লিকেশনগুলিকে বাধা দিতে পারে।

বিচার বিভাগের একজন মুখপাত্র বলেছেন, "আমরা ডিপফেক প্রযুক্তির প্রভাবগুলি সাবধানে বিবেচনা করছি এবং একটি সুষম নিয়ন্ত্রক পদ্ধতি বিকাশের জন্য কাজ করছি।" "আমাদের লক্ষ্য হল এআই সেক্টরে দায়িত্বশীল উদ্ভাবনকে উৎসাহিত করার পাশাপাশি জনসাধারণকে ক্ষতি থেকে রক্ষা করা।"

তবে, অ্যাডভোকেসি গ্রুপগুলি যুক্তি দেয় যে আইনি স্পষ্টতার বর্তমান অভাব ইতিমধ্যেই জনসাধারণের আলোচনার উপর একটি শীতল প্রভাব ফেলছে। ডিপফেক আক্রমণের শিকার হওয়ার ভয়ে ব্যক্তিরা অনলাইনে তাদের মতামত প্রকাশ করতে নিরুৎসাহিত হতে পারেন, বিশেষ করে সংবেদনশীল বিষয়ে।

ডিপফেক মোকাবিলা করার জন্য বেশ কয়েকটি দেশ ইতিমধ্যেই আইন বাস্তবায়ন করেছে বা বিবেচনা করছে। ইউরোপীয় ইউনিয়নের ডিজিটাল সার্ভিসেস অ্যাক্টে ডিপফেক সহ অবৈধ বিষয়বস্তু সনাক্তকরণ এবং অপসারণের বিধান রয়েছে। মার্কিন যুক্তরাষ্ট্রে, কিছু রাজ্য বিশেষভাবে ক্ষতিকারক ডিপফেক তৈরি এবং বিতরণের লক্ষ্যে আইন পাস করেছে।

ডিপফেক প্রবিধান নিয়ে বিতর্ক দ্রুত বিকশিত AI প্রযুক্তি পরিচালনার বৃহত্তর চ্যালেঞ্জকে তুলে ধরে। বিশেষজ্ঞরা প্রযুক্তিগত সমাধান, যেমন ওয়াটারমার্কিং এবং বিষয়বস্তু প্রমাণীকরণ, সেইসাথে আইনি এবং নৈতিক কাঠামো সহ একটি বহুমাত্রিক পদ্ধতির প্রয়োজনীয়তার উপর জোর দেন।

সরকার ঘোষণা করেছে যে তারা ডিপফেক প্রবিধানের উপর ধারাবাহিক পাবলিক কনসালটেশন পরিচালনা করছে এবং আগামী মাসগুলোতে খসড়া আইন পেশ করার পরিকল্পনা করছে। এই ব্যবস্থার কার্যকারিতা সমাজের ক্ষতি থেকে সুরক্ষার পাশাপাশি কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রে উদ্ভাবনকে উৎসাহিত করার মধ্যে ভারসাম্য বজায় রাখার ক্ষমতার উপর নির্ভর করবে। Grok AI-এর মতো মডেলের বিকাশ এবং ব্যবহার এই কাজের জরুরি অবস্থাকে আরও বাড়িয়ে দিয়েছে।