ডিপফেক ছবি তৈরির উদ্বেগের কারণে ইন্দোনেশিয়া ইলন মাস্কের গ্রোক চ্যাটবট ব্যবহারের উপর নিষেধাজ্ঞা জারি করেছে। দেশটির যোগাযোগ ও ডিজিটাল বিষয়ক মন্ত্রী শনিবার এই অস্থায়ী নিষেধাজ্ঞার ঘোষণা দেন। তিনি বলেন, এই ধরনের ডিপফেক তৈরি ও বিতরণ ডিজিটাল ক্ষেত্রে মানবাধিকার, মর্যাদা এবং নাগরিকদের নিরাপত্তার চরম লঙ্ঘন।

এই সিদ্ধান্তের মাধ্যমে ইন্দোনেশিয়া ডিপফেক সমস্যার কারণে গ্রোকের উপর প্রকাশ্যে নিষেধাজ্ঞা আরোপ করা প্রথম দেশ হিসেবে পরিচিত হলো। মন্ত্রী মেউতিয়া এইচ. নারীদের, শিশুদের এবং বৃহত্তর জনসাধারণকে এআই-ভিত্তিক পর্নোগ্রাফিক কনটেন্টের বিপদ থেকে রক্ষা করার জন্য সরকারের অঙ্গীকারের উপর জোর দেন। গ্রোক যে বিশেষ প্রক্রিয়ার মাধ্যমে এই ছবি তৈরি করতে পারতো, তার মধ্যে ছিল ব্যবহারকারীদের অনলাইনে থাকা ছবি পরিবর্তন করার অনুমতি দেওয়া, এমনকি পোশাক সরিয়ে ফেলাও এর অন্তর্ভুক্ত ছিল।

"ডিপ লার্নিং" এবং "ফেক"-এর সমন্বয়ে তৈরি "ডিপফেক" হলো কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে তৈরি করা এমন এক ধরনের মিডিয়া যেখানে কোনো বিদ্যমান ছবি বা ভিডিওতে থাকা কোনো ব্যক্তির জায়গায় অন্য কারো প্রতিচ্ছবি বসানো হয়। বিনোদন এবং শিক্ষার মতো ক্ষেত্রগুলোতে বৈধ ব্যবহার থাকা সত্ত্বেও, এই প্রযুক্তি অপব্যবহারের সম্ভাবনার কারণে উল্লেখযোগ্য নৈতিক ও আইনি উদ্বেগের জন্ম দিয়েছে। এর মাধ্যমে মানহানিকর কনটেন্ট তৈরি, ভুল তথ্য ছড়ানো এবং সম্মতিবিহীন পর্নোগ্রাফি তৈরি করা সম্ভব।

মাস্কের এআই কোম্পানি xAI দ্বারা তৈরি গ্রোক চ্যাটবট, এর আগে ডিপফেক সম্পর্কিত সমালোচনার ঢেউয়ের পর এর ছবি তৈরি করার ক্ষমতা নিয়ে কঠোর নজরদারির মধ্যে ছিল এবং এর উপর বিধিনিষেধ আরোপ করা হয়েছিল। যুক্তরাজ্য এবং ইউরোপীয় ইউনিয়নের সদস্যসহ অন্যান্য দেশগুলোও গ্রোক দ্বারা তৈরি অন্তরঙ্গ ডিপফেক ছবি নিয়ে উদ্বেগ প্রকাশ করেছে এবং পূর্বে টুইটার নামে পরিচিত X-কে বিষয়টি সমাধানের জন্য চাপ দিয়েছে। বিশেষ করে ইইউ, এআই দ্বারা তৈরি "ভয়ঙ্কর শিশুতোষ ডিপফেক"-এর উদাহরণ চিহ্নিত করেছে।

ইন্দোনেশীয় সরকারের এই পদক্ষেপ সম্ভাব্য ক্ষতি কমিয়ে উদ্ভাবনকে উৎসাহিত করার জন্য এআই প্রযুক্তি নিয়ন্ত্রণের ক্ষেত্রে ক্রমবর্ধমান বৈশ্বিক চ্যালেঞ্জকে তুলে ধরে। এই ঘটনা এআই সরঞ্জামগুলোর অপব্যবহার রোধে ডেভেলপারদের শক্তিশালী সুরক্ষা ব্যবস্থা বাস্তবায়নের প্রয়োজনীয়তা এবং ডিপফেকের নৈতিক ও সামাজিক প্রভাব মোকাবিলায় সরকারগুলোর স্পষ্ট আইনি কাঠামো প্রতিষ্ঠার প্রয়োজনীয়তার উপর জোর দেয়। ক্ষতিকর কনটেন্ট তৈরি ও প্রচার বন্ধে xAI-এর পদক্ষেপগুলো মূল্যায়ন না করা পর্যন্ত নিষেধাজ্ঞা বহাল থাকবে। ভবিষ্যতের অগ্রগতিতে ইন্দোনেশীয় কর্মকর্তা এবং xAI-এর মধ্যে সম্ভাব্য সমাধান এবং সুরক্ষাব্যবস্থা নিয়ে আলোচনা হতে পারে, যা স্থানীয় আইন ও নৈতিক মান মেনে গ্রোককে দেশে কাজ করার অনুমতি দিতে পারে।