সরকারি কর্মকর্তারা ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-কে গ্রোক (Grok) দ্বারা তৈরি "ভয়ঙ্কর" ডিপফেক (deepfakes)-এর বিস্তার মোকাবিলার জন্য চাপ দিচ্ছেন। গ্রোক হল প্ল্যাটফর্মটির কৃত্রিম বুদ্ধিমত্তা চ্যাটবট। X-এ অত্যন্ত বাস্তবসম্মত এবং প্রায়শই বিদ্বেষপূর্ণ AI-ভিত্তিক কন্টেন্টের উত্থানের পরেই এই দাবি জানানো হয়েছে। এই কন্টেন্টগুলি ভুল তথ্য ছড়ানো এবং ব্যক্তি ও প্রতিষ্ঠানের সম্ভাব্য ক্ষতির বিষয়ে উদ্বেগ সৃষ্টি করেছে।

মূল সমস্যাটি হল গ্রোকের বিশ্বাসযোগ্য টেক্সট, ছবি এবং এমনকি অডিও তৈরি করার ক্ষমতা, যা ব্যবহার করে ব্যক্তিদের ছদ্মবেশ ধারণ করা, মিথ্যা গল্প ছড়ানো বা জনমতকে প্রভাবিত করা যেতে পারে। এই প্রেক্ষাপটে ডিপফেকগুলি অত্যাধুনিক মেশিন লার্নিং কৌশল ব্যবহার করে, বিশেষ করে জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক (GANs), সিনথেটিক মিডিয়া তৈরি করে যা আসল কন্টেন্ট থেকে আলাদা করা কঠিন। GANs-এর মধ্যে দুটি নিউরাল নেটওয়ার্ক জড়িত, একটি জেনারেটর এবং অন্যটি ডিসক্রিমিনেটর, যা একে অপরের বিরুদ্ধে প্রতিদ্বন্দ্বিতা করে। জেনারেটর নকল কন্টেন্ট তৈরি করে, যেখানে ডিসক্রিমিনেটর এটিকে নকল হিসেবে চিহ্নিত করার চেষ্টা করে। এই পুনরাবৃত্তিমূলক প্রক্রিয়ার মাধ্যমে, জেনারেটর বাস্তবসম্মত জালিয়াতি তৈরিতে আরও বেশি পারদর্শী হয়ে ওঠে।

নাম প্রকাশে অনিচ্ছুক সরকারের তদারকি কমিটির একজন মুখপাত্র বলেন, "গ্রোক-জেনারেটেড ডিপফেকগুলির পরিশীলতার মাত্রা দেখে আমরা গভীরভাবে উদ্বিগ্ন। এগুলি কেবল সাধারণ কারসাজি নয়; এগুলি অত্যন্ত বিশ্বাসযোগ্য জালিয়াতি যা গুরুতর পরিণতি ঘটাতে পারে।"

X-এর গ্রোক এআই, যা ChatGPT এবং Google-এর জেমিনির মতো অন্যান্য এআই চ্যাটবটগুলির প্রতিযোগী হিসাবে বিবেচিত, ব্যবহারকারীদের তথ্য সরবরাহ, সৃজনশীল কন্টেন্ট তৈরি এবং কথোপকথনে জড়িত হওয়ার উদ্দেশ্যে তৈরি করা হয়েছে। তবে, এর ক্ষমতা দ্রুত প্রতারণামূলক কন্টেন্ট তৈরি করতে কাজে লাগানো হয়েছে। পণ্যের বিবরণ থেকে জানা যায় যে গ্রোককে টেক্সট এবং কোডের একটি বিশাল ডেটাসেটের উপর প্রশিক্ষণ দেওয়া হয়েছে, যা এটিকে মানুষের মানের টেক্সট তৈরি করতে এবং বিভিন্ন লেখার শৈলী অনুকরণ করতে সক্ষম করে। এই শক্তিশালী প্রযুক্তি, সম্ভাব্য সুবিধা প্রদানের পাশাপাশি, সঠিকভাবে পরিচালনা না করা হলে উল্লেখযোগ্য ঝুঁকিও তৈরি করে।

শিল্প বিশ্লেষকরা মনে করেন যে এই ঘটনা প্রযুক্তিগত উদ্ভাবন এবং দায়িত্বশীল এআই বিকাশের প্রয়োজনীয়তার মধ্যে ক্রমবর্ধমান উত্তেজনাকে তুলে ধরে। ইনস্টিটিউট ফর টেকনোলজি অ্যান্ড সোসাইটির একজন শীর্ষস্থানীয় এআই এথিক্স গবেষক ডঃ অন্যা শর্মা বলেন, "এআই-এর দ্রুত অগ্রগতি এর সম্ভাব্য অপব্যবহার নিয়ন্ত্রণ করার ক্ষমতাকে ছাড়িয়ে যাচ্ছে। X-এর মতো প্ল্যাটফর্মগুলির তাদের এআই সরঞ্জামগুলিকে অস্ত্র হিসাবে ব্যবহার করা থেকে আটকাতে শক্তিশালী সুরক্ষা ব্যবস্থা বাস্তবায়ন করার দায়িত্ব রয়েছে।"

X সরকারের দাবিগুলির প্রতিক্রিয়ায় জানিয়েছে যে তারা এআই-জেনারেটেড ডিপফেকগুলির সনাক্তকরণ এবং অপসারণের ক্ষমতা উন্নত করার জন্য সক্রিয়ভাবে কাজ করছে। কোম্পানিটি তার কন্টেন্ট নিরীক্ষণ নীতিগুলিকে উন্নত করার, এআই-চালিত সনাক্তকরণ সরঞ্জামগুলিতে বিনিয়োগ করার এবং ডিপফেকগুলির বিরুদ্ধে লড়াই করার জন্য সর্বোত্তম উপায়গুলি বিকাশের জন্য শিল্প বিশেষজ্ঞদের সাথে সহযোগিতা করার পরিকল্পনা করেছে। তবে, সমালোচকরা বলছেন যে এই পদক্ষেপগুলি যথেষ্ট নয় এবং X-কে ক্ষতিকারক এআই-জেনারেটেড কন্টেন্ট তৈরি এবং প্রচার বন্ধ করতে আরও সক্রিয় পদক্ষেপ নেওয়া দরকার।

বর্তমান পরিস্থিতি হল সরকারি কর্মকর্তা এবং X প্রতিনিধিদের মধ্যে আলোচনা চলছে। X যদি এই সমস্যাটি পর্যাপ্তভাবে সমাধান করতে ব্যর্থ হয়, তাহলে সরকার সম্ভাব্য নিয়ন্ত্রক পদক্ষেপ নেওয়ার কথা বিবেচনা করছে। ভবিষ্যতের উন্নয়নে সম্ভবত এআই-চালিত প্ল্যাটফর্মগুলির উপর আরও বেশি নজরদারি এবং এআই প্রযুক্তিগুলির বিকাশ ও স্থাপনে বৃহত্তর স্বচ্ছতা ও জবাবদিহিতার জন্য চাপ অন্তর্ভুক্ত থাকবে। এই ঘটনাটি ডিপফেকগুলির দ্বারা সৃষ্ট চ্যালেঞ্জ এবং তাদের সম্ভাব্য ক্ষতি কমাতে কার্যকর সমাধানের জরুরি প্রয়োজনের একটি কঠোর অনুস্মারক হিসাবে কাজ করে।