ডিপফেক ছবি তৈরির উদ্বেগে ইলন মাস্কের গ্রোক চ্যাটবট ব্যবহারের উপর নিষেধাজ্ঞা জারি করেছে ইন্দোনেশিয়া। দেশটির যোগাযোগ ও ডিজিটাল বিষয়ক মন্ত্রী শনিবার এই অস্থায়ী নিষেধাজ্ঞার ঘোষণা দেন। তিনি বলেন, এই ধরনের ডিপফেক তৈরি এবং বিতরণ ডিজিটাল ক্ষেত্রে মানবাধিকার, মর্যাদা এবং নাগরিকদের নিরাপত্তার চরম লঙ্ঘন।

এই সিদ্ধান্তের মাধ্যমে ইন্দোনেশিয়া ডিপফেক সমস্যার কারণে আনুষ্ঠানিকভাবে গ্রোককে নিষিদ্ধ করা প্রথম দেশ হিসেবে পরিচিত হলো। মন্ত্রী মেউতিয়া এইচ জোর দিয়ে বলেন, দুর্বল জনগোষ্ঠী, বিশেষ করে নারী ও শিশুদের এআই-ভিত্তিক পর্নোগ্রাফিক কনটেন্টের ক্ষতিকর প্রভাব থেকে রক্ষা করা সরকারের দায়িত্ব। মেউতিয়া এইচ বলেন, "কৃত্রিম বুদ্ধিমত্তা প্রযুক্তি ব্যবহার করে তৈরি হওয়া ভুয়া পর্নোগ্রাফিক কনটেন্টের ঝুঁকি থেকে নারী, শিশু ও জনসাধারণকে রক্ষা করার জন্য সরকার সাময়িকভাবে গ্রোক অ্যাপ্লিকেশনটির ব্যবহার বন্ধ করে দিয়েছে।"

"ডিপ লার্নিং" এবং "ফেক"-এর সমন্বয়ে তৈরি "ডিপফেক" অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তা কৌশল, বিশেষ করে ডিপ লার্নিং অ্যালগরিদম ব্যবহার করে অত্যন্ত বাস্তবসম্মত কিন্তু জাল ছবি, ভিডিও এবং অডিও রেকর্ডিং তৈরি করে। এই প্রযুক্তিগুলো বিদ্যমান কনটেন্টকে পরিবর্তন করতে বা সম্পূর্ণ সিনথেটিক মিডিয়া তৈরি করতে সক্ষম, যা প্রায়শই আসল এবং জাল উপাদানের মধ্যে পার্থক্য করা কঠিন করে তোলে। ডিপফেক প্রযুক্তি নিয়ে উদ্বেগের কারণ হলো এর অপব্যবহারের সম্ভাবনা, যার মধ্যে মানহানিকর কনটেন্ট তৈরি, ভুল তথ্য ছড়ানো এবং এই ক্ষেত্রে যেমন দেখা যাচ্ছে, সম্মতি ছাড়াই পর্নোগ্রাফি তৈরি করা।

গ্রোকের ছবি তৈরি করার ক্ষমতা নিয়ে আন্তর্জাতিক মহলে ক্রমবর্ধমান সমালোচনার পরেই এই নিষেধাজ্ঞা জারি করা হলো। সাম্প্রতিক প্রতিবেদনে এমন কিছু ঘটনার কথা তুলে ধরা হয়েছে যেখানে ব্যবহারকারীরা গ্রোক ব্যবহার করে অনলাইন ছবি থেকে পোশাক সরিয়ে ফেলতে পেরেছে, যার ফলে ব্যক্তিদের সম্মতি ছাড়াই তাদের যৌন উত্তেজক depiction তৈরি হয়েছে। এই ক্ষমতা ব্যাপক নিন্দা সৃষ্টি করেছে এবং এআই ডেভেলপারদের তাদের প্রযুক্তির অপব্যবহার রোধ করার দায়িত্ব নিয়ে গুরুতর নৈতিক ও আইনি প্রশ্ন তুলেছে।

ইন্দোনেশিয়ার নিষেধাজ্ঞার আগে, গ্রোকের ডিপফেক ক্ষমতা নিয়ে বেশ কয়েকটি দেশ থেকে ইলন মাস্কের উপর চাপ বাড়ছিল। উদাহরণস্বরূপ, যুক্তরাজ্য গ্রোক ব্যবহার করে তৈরি হওয়া অন্তরঙ্গ ডিপফেক ছবির বিস্তার মোকাবিলা করার জন্য পূর্বে টুইটার নামে পরিচিত X-কে অনুরোধ করেছে। ইউরোপীয় ইউনিয়নও এআই চ্যাটবট দ্বারা তৈরি "ভয়ঙ্কর শিশুতোষ ডিপফেক"-এর উদাহরণ চিহ্নিত করেছে। এই ঘটনাগুলোর কারণে গ্রোক সমস্যাটি কমাতে তার ছবি তৈরি করার বৈশিষ্ট্যগুলোর উপর সীমাবদ্ধতা আরোপ করতে বাধ্য হয়েছে।

ইন্দোনেশীয় সরকারের এই পদক্ষেপ দ্রুত অগ্রসরমান এআই প্রযুক্তি দ্বারা সৃষ্ট চ্যালেঞ্জগুলো মোকাবিলা করার জন্য একটি নিয়ন্ত্রণমূলক কাঠামোর প্রয়োজনীয়তার উপর জোর দেয়। যেহেতু এআই মডেলগুলো আরও অত্যাধুনিক এবং সহজলভ্য হয়ে উঠছে, তাই এর অপব্যবহারের সম্ভাবনা বাড়ছে, যার কারণে ব্যক্তি এবং সমাজকে এই প্রযুক্তির ক্ষতিকর পরিণতি থেকে রক্ষা করার জন্য সক্রিয় পদক্ষেপ নেওয়া প্রয়োজন। এই নিষেধাজ্ঞার দীর্ঘমেয়াদী প্রভাব এবং এআই নিয়ন্ত্রণ সংক্রান্ত অন্যান্য দেশগুলোর দৃষ্টিভঙ্গির উপর এর সম্ভাব্য প্রভাব এখনো দেখার বিষয়। ইন্দোনেশিয়া সরকার নিষেধাজ্ঞার মেয়াদ বা গ্রোকের ব্যবহার কখন পুনরুদ্ধার করা হতে পারে, সে সম্পর্কে কোনো নির্দিষ্ট তথ্য জানায়নি।