ডিপফেক মোকাবেলার আইন প্রণয়নে সরকারের কথিত বিলম্বের কারণে সমালোচনার মুখে পড়েছে সরকার, বিশেষ করে গ্রোক এআই-এর আবির্ভাব এবং এর অপব্যবহারের সম্ভাবনাকে ঘিরে। সমালোচকদের মতে, এই বিলম্বের কারণে সমাজ এই প্রযুক্তির বিদ্বেষপূর্ণ ব্যবহারের শিকার হওয়ার ঝুঁকিতে রয়েছে, যার মধ্যে ভুল তথ্য ছড়ানো এবং পরিচয় চুরি অন্যতম।

অভিযোগটি মূলত ডিপফেক তৈরি এবং বিতরণের বিরুদ্ধে বিশেষভাবে আইন প্রণয়ন এবং তা কার্যকর করার ধীর গতিকে কেন্দ্র করে। মূলত, ডিপফেক হলো কৃত্রিম মাধ্যম, যেখানে কোনো বিদ্যমান ছবি বা ভিডিওতে থাকা কোনো ব্যক্তির জায়গায় অন্য কোনো ব্যক্তির প্রতিচ্ছবি বসানো হয়। অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তা কৌশল ব্যবহারের মাধ্যমে এটি করা হয়, প্রধানত ডিপ লার্নিং অ্যালগরিদম ব্যবহার করে - তাই এর এই নাম। এই অ্যালগরিদমগুলি কোনো ব্যক্তির মুখের বৈশিষ্ট্য, অভিব্যক্তি এবং অঙ্গভঙ্গি শিখতে ছবি এবং ভিডিওর বিশাল ডেটাসেট বিশ্লেষণ করে, যা তাদের একটি ভিডিও বা অডিও রেকর্ডিংয়ে অন্য ব্যক্তির উপর সেই ব্যক্তির প্রতিচ্ছবিকে বিশ্বাসযোগ্যভাবে স্থাপন করতে সক্ষম করে।

এক্সএআই (xAI) দ্বারা তৈরি একটি বৃহৎ ভাষা মডেল (এলএলএম) গ্রোক এআই-এর সক্ষমতা উদ্বেগকে আরও বাড়িয়ে দিয়েছে। এলএলএমগুলি বিপুল পরিমাণ টেক্সট ডেটার উপর প্রশিক্ষিত, যা তাদের মানুষের মতো গুণসম্পন্ন টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে এবং একটি বিস্তৃত পদ্ধতিতে প্রশ্নের উত্তর দিতে সক্ষম করে। এলএলএম-এর অসংখ্য উপকারী প্রয়োগ থাকলেও, এটিকে বিশ্বাসযোগ্য জাল খবর তৈরি করতে, ব্যক্তিদের এমন কথা বলার বাস্তবসম্মত অডিও তৈরি করতে যা তারা কখনও বলেননি এবং এমনকি ডিপফেক ভিডিও তৈরিতে অবদান রাখতে কাজে লাগানো যেতে পারে।

ডিজিটাল অধিকার advocate লরা ক্রেস বলেন, "ডিপফেক নিয়ন্ত্রণ করতে আমরা যত বেশি দেরি করব, ব্যাপক কারসাজি এবং আমাদের প্রতিষ্ঠানগুলোর ওপর থেকে আস্থা হারানোর ঝুঁকি তত বাড়বে।" "গ্রোক এআই এবং অনুরূপ প্রযুক্তিগুলি শক্তিশালী সরঞ্জাম, তবে যথাযথ সুরক্ষা ব্যবস্থা ছাড়া এগুলোকে অস্ত্র হিসেবে ব্যবহার করা যেতে পারে।"

ডিপফেক প্রবিধান নিয়ে বিতর্ক জটিল। একদিকে, ব্যক্তি এবং সমাজকে ডিপফেকের সম্ভাব্য ক্ষতি থেকে রক্ষা করার প্রয়োজনীয়তা রয়েছে। অন্যদিকে, উদ্ভাবনকে দমন করা এবং বাকস্বাধীনতার উপর হস্তক্ষেপ করার বিষয়ে উদ্বেগ রয়েছে। যেকোনো আইনকে এই পরস্পরবিরোধী স্বার্থের মধ্যে একটি সূক্ষ্ম ভারসাম্য বজায় রাখতে হবে।

ডিপফেক নিয়ন্ত্রণের জন্য বেশ কয়েকটি পদ্ধতি বিবেচনা করা হচ্ছে। এর মধ্যে রয়েছে ডিপফেকের ওপর disclaimer বা অস্বীকৃতি যুক্ত করার বাধ্যবাধকতা, বিদ্বেষপূর্ণ ডিপফেক তৈরি এবং বিতরণের জন্য অপরাধীকরণ এবং ডিপফেক সনাক্ত করার জন্য প্রযুক্তিগত সমাধান তৈরি করা। কিছু গবেষক ডিজিটাল কনটেন্টকে ওয়াটারমার্ক বা ফিঙ্গারপ্রিন্ট করার পদ্ধতি অনুসন্ধান করছেন, যা কারসাজি করা মিডিয়া সনাক্ত করা সহজ করে তুলবে। অন্যরা এআই-চালিত সরঞ্জামগুলির ওপর কাজ করছেন যা ভিডিও এবং অডিও রেকর্ডিং বিশ্লেষণ করে ডিপফেক কারসাজির লক্ষণ সনাক্ত করতে পারে।

সরকার জানিয়েছে যে তারা ডিপফেকের কারণে সৃষ্ট চ্যালেঞ্জ মোকাবেলায় প্রতিশ্রুতিবদ্ধ এবং সক্রিয়ভাবে আইন প্রণয়নের ওপর কাজ করছে। তবে, সমালোচকদের মতে, বিশেষ করে এআই প্রযুক্তির দ্রুত অগ্রগতির কারণে এই প্রক্রিয়াটি খুব বেশি সময় নিচ্ছে। পরবর্তী পদক্ষেপগুলিতে সম্ভবত বিশেষজ্ঞ, স্টেকহোল্ডার এবং জনসাধারণের সাথে আরও পরামর্শ করা, তার পরে প্রাসঙ্গিক আইনসভায় আইনের খসড়া তৈরি এবং উপস্থাপন করা জড়িত। আইনটি কার্যকর করার সময়সীমা এখনও অনিশ্চিত।