ডিপফেক তৈরি, বিশেষ করে নারী ও শিশুদের যৌন আবেদনময়ী ছবি তৈরি নিয়ে ক্রমবর্ধমান বিতর্কের মধ্যে, ইলন মাস্কের এআই চ্যাটবট গ্রোক সামাজিক মাধ্যম প্ল্যাটফর্ম X-এ ছবি তৈরি করার ক্ষমতা সীমিত করেছে, এবং এই সুবিধাটি শুধুমাত্র অর্থ প্রদানকারী গ্রাহকদের জন্য সীমাবদ্ধ করা হয়েছে। X ব্যবহারকারীদের জন্য শুক্রবার এই পদক্ষেপের ঘোষণাটি আসে মাস্ক এবং X-এর উপর এআই-উত্পাদিত চিত্রের অপব্যবহার রোধ করার জন্য ক্রমবর্ধমান চাপের ফলস্বরূপ।

X থেকে স্বতন্ত্রভাবে পরিচালিত গ্রোক অ্যাপ্লিকেশনটি সাবস্ক্রিপশন ছাড়াই ছবি তৈরি করার অনুমতি দেওয়া অব্যাহত রেখেছে। X-এর উপর এই আংশিক নিষেধাজ্ঞা সাম্প্রতিক সমালোচনার প্রতিক্রিয়া, যার মধ্যে গ্রোকের অনলাইন ছবি পরিবর্তন করার ক্ষমতা, বিশেষ করে বিষয়বস্তু থেকে পোশাক সরিয়ে দেওয়ার ক্ষমতা সম্পর্কিত বেশ কয়েকটি দেশের জরিমানা এবং সমালোচনার হুমকি অন্তর্ভুক্ত রয়েছে।

ডিপফেক, "ডিপ লার্নিং" এবং "ফেক"-এর মিশ্রণ, হলো সিনথেটিক মিডিয়া যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারও প্রতিচ্ছবি দিয়ে প্রতিস্থাপন করা হয়। এগুলো শক্তিশালী এআই কৌশল ব্যবহার করে তৈরি করা হয়, বিশেষ করে ডিপ লার্নিং অ্যালগরিদম, যা ছবি এবং ভিডিওর বিশাল ডেটাসেট থেকে প্যাটার্ন বিশ্লেষণ করে এবং শেখে। এই প্রযুক্তিটি এর অপব্যবহারের সম্ভাবনা, যার মধ্যে মানহানিকর কনটেন্ট তৈরি, সম্মতিবিহীন পর্নোগ্রাফি এবং ভুল তথ্য ছড়ানো সহ উল্লেখযোগ্য নৈতিক উদ্বেগ সৃষ্টি করেছে।

ইউরোপীয় কমিশন সোমবার জানিয়েছে যে তারা X-এর গ্রোক এআই দ্বারা তৈরি "ভয়ঙ্কর শিশুতোষ ডিপফেক" সম্পর্কে অবগত, যা প্ল্যাটফর্মটির উপর আরও বেশি করে নজরদারি চালাচ্ছে। মাস্ক সম্প্রতি বলেছেন যে গ্রোক ব্যবহার করে অবৈধ কনটেন্ট তৈরি করলে যে কেউ সরাসরি এই ধরনের উপাদান আপলোড করার মতোই পরিণতি ভোগ করবে।

যুক্তরাজ্যও অন্তরঙ্গ ডিপফেক চিত্রের বিস্তার বন্ধ করতে X-এর উপর চাপ দিচ্ছে। এই ঘটনাটি এআই-উত্পাদিত কনটেন্ট নিয়ন্ত্রণ এবং এর অপব্যবহার রোধে সামাজিক মাধ্যম প্ল্যাটফর্মগুলোর চ্যালেঞ্জগুলোকে তুলে ধরে। প্রযুক্তিগত উদ্ভাবন এবং এআই-উত্পাদিত কারসাজির কারণে সৃষ্ট ক্ষতি থেকে ব্যক্তিদের সুরক্ষার প্রয়োজনীয়তার মধ্যে ভারসাম্য নিয়ে বিতর্ক অব্যাহত রয়েছে। গ্রোকের ভবিষ্যৎ উন্নয়ন এবং এর ছবি তৈরি করার ক্ষমতা অনিশ্চিত রয়ে গেছে কারণ X এই জটিল নৈতিক এবং আইনি বিবেচনাগুলোর মধ্যে দিয়ে যাচ্ছে।