ডিপফেক তৈরি নিয়ে ক্রমবর্ধমান বিতর্কের মধ্যে, বিশেষ করে নারী ও শিশুদের যৌনতাপূর্ণ বিষয়বস্তু যুক্ত ডিপফেক তৈরির উদ্বেগের মধ্যে ইলন মাস্কের এআই চ্যাটবট গ্রোক সামাজিক মাধ্যম প্ল্যাটফর্ম X-এ ছবি তৈরি করার ক্ষমতা সীমিত করেছে, এবং এই সুবিধা শুধুমাত্র অর্থ প্রদানকারী গ্রাহকদের জন্য সীমাবদ্ধ করা হয়েছে। X ব্যবহারকারীদের জন্য শুক্রবার এই ঘোষণাটি আসে মাস্ক এবং X-এর উপর এআই টুলের অপব্যবহার রোধ করার জন্য ক্রমবর্ধমান চাপের পরে।

X থেকে স্বতন্ত্রভাবে পরিচালিত গ্রোক অ্যাপ্লিকেশনটি সাবস্ক্রিপশন স্ট্যাটাস নির্বিশেষে সকল ব্যবহারকারীকে ছবি তৈরি করার অনুমতি দেয়। এই আংশিক নিষেধাজ্ঞাটি আসে মাস্কের বিরুদ্ধে সম্ভাব্য জরিমানা এবং গ্রোকের অনলাইন ছবি পরিবর্তন করার ক্ষমতা, যেমন বিষয়বস্তু থেকে পোশাক সরানোর বিষয়ে বেশ কয়েকটি দেশ থেকে সমালোচনার পরে।

ডিপফেক, এআই-উত্পাদিত এমন মিডিয়া যা কাউকে এমন কিছু করতে বা বলতে বিশ্বাসযোগ্যভাবে চিত্রিত করে যা তারা করেনি, অত্যাধুনিক মেশিন লার্নিং অ্যালগরিদমের উপর নির্ভর করে। জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক (GANs) প্রায়শই ব্যবহৃত হয়, যেখানে দুটি নিউরাল নেটওয়ার্ক একে অপরের বিরুদ্ধে কাজ করে: একটি জাল কন্টেন্ট তৈরি করে, অন্যটি তা সনাক্ত করার চেষ্টা করে। এই পুনরাবৃত্তিমূলক প্রক্রিয়ার ফলে ক্রমশ বাস্তবসম্মত জালিয়াতি তৈরি হয়। গ্রোকের মতো এআই সরঞ্জামগুলির সহজলভ্যতা ডিপফেক তৈরির ক্ষেত্রে প্রবেশে বাধা কমিয়েছে, যা মানহানি, হয়রানি এবং ভুল তথ্য ছড়ানো সহ বিদ্বেষপূর্ণ ব্যবহারের সম্ভাবনা সম্পর্কে উদ্বেগ বাড়িয়েছে।

ইউরোপীয় কমিশন সোমবার জানিয়েছে যে তারা গ্রোক দ্বারা তৈরি "ভয়ঙ্কর শিশুতোষ ডিপফেক" এর ঘটনাগুলি তদন্ত করছে। ব্যাপক নিন্দার মধ্যে, ইলন মাস্ক সম্প্রতি বলেছেন যে গ্রোক ব্যবহার করে অবৈধ কন্টেন্ট তৈরি করলে যে কেউ সরাসরি এই ধরনের উপাদান আপলোড করার মতোই পরিণতি ভোগ করবে।

যুক্তরাজ্যও অন্তরঙ্গ ডিপফেক চিত্রের বিস্তার বন্ধ করতে X-এর উপর চাপ দিয়েছে। এআই প্রযুক্তির দ্রুত অগ্রগতি ডিপফেকের সাথে সম্পর্কিত ঝুঁকি কমাতে প্রবিধান এবং কন্টেন্ট নিরীক্ষণের ক্ষেত্রে একটি সক্রিয় পদ্ধতির প্রয়োজনীয়তা তৈরি করেছে। বর্তমান পরিস্থিতি এআই-এর বিকাশ এবং প্রয়োগের ক্ষেত্রে উদ্ভাবনের সঙ্গে নৈতিক বিবেচনার ভারসাম্য রক্ষার চলমান চ্যালেঞ্জকে তুলে ধরে। কোম্পানিটি এই জটিল সমস্যাগুলি মোকাবিলার কারণে X এবং স্বতন্ত্র অ্যাপ উভয়টিতে গ্রোকের ছবি তৈরি করার ক্ষমতার ভবিষ্যৎ অনিশ্চিত।