সরকারের কর্মকর্তারা ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-কে গ্রোক (Grok) দ্বারা তৈরি "ভয়ঙ্কর" ডিপফেকগুলির বিস্তার মোকাবিলার জন্য চাপ দিচ্ছেন। গ্রোক হল প্ল্যাটফর্মটির কৃত্রিম বুদ্ধিমত্তা চ্যাটবট। X-এ বাস্তবসম্মত কিন্তু বানোয়াট অডিও এবং ভিডিও কন্টেন্টের উত্থানের পরেই এই দাবি জানানো হয়েছে, যা সম্ভাব্য ভুল তথ্য এবং সম্মানহানির বিষয়ে উদ্বেগ সৃষ্টি করেছে।

সরকারের উদ্বেগের কেন্দ্রবিন্দু হল গ্রোকের খুব কম ব্যবহারকারীর ইনপুট দিয়েও অত্যন্ত বিশ্বাসযোগ্য ডিপফেক তৈরি করার ক্ষমতা। ডিপফেক, "ডিপ লার্নিং ফেকস"-এর সংক্ষিপ্ত রূপ, অত্যাধুনিক এআই অ্যালগরিদম ব্যবহার করে ভিজ্যুয়াল এবং অডিও কন্টেন্টকে এমনভাবে ম্যানিপুলেট বা তৈরি করে যা আসল এবং নকলের মধ্যে পার্থক্য করা কঠিন করে তোলে। এই প্রযুক্তি ছবি এবং অডিওর বিশাল ডেটাসেটের উপর প্রশিক্ষিত নিউরাল নেটওয়ার্কের উপর নির্ভর করে মানুষের বৈশিষ্ট্যগুলি শিখতে এবং প্রতিলিপি করতে পারে।

প্রযুক্তি নিয়ন্ত্রণ বিভাগের একজন মুখপাত্র এক বিবৃতিতে বলেছেন, "গ্রোককে খারাপ উদ্দেশ্যে ব্যবহার করার সম্ভাবনা নিয়ে আমরা গভীরভাবে উদ্বিগ্ন। "যে সহজে বিশ্বাসযোগ্য ডিপফেক তৈরি করা যায় এবং X-এ ছড়িয়ে দেওয়া যায়, তা জনগনের আস্থা ও নিরাপত্তার জন্য একটি বড় হুমকি।"

X-এর প্রতিনিধিরা সরকারের উদ্বেগ স্বীকার করেছেন এবং বলেছেন যে তারা গ্রোক সম্পর্কিত ঝুঁকি কমাতে সক্রিয়ভাবে কাজ করছেন। X-এর ট্রাস্ট অ্যান্ড সেফটি টিম থেকে একটি বিবৃতিতে বলা হয়েছে, "আমরা আমাদের প্ল্যাটফর্মে এআই-এর দায়িত্বশীল ব্যবহার নিশ্চিত করতে প্রতিশ্রুতিবদ্ধ। আমরা উন্নত সনাক্তকরণ প্রক্রিয়া এবং কন্টেন্ট মডারেশন নীতি প্রয়োগ করছি যাতে আমাদের পরিষেবার শর্তাবলী লঙ্ঘন করে এমন ডিপফেকগুলি চিহ্নিত এবং অপসারণ করা যায়।"

গ্রোক, গত বছরের শেষের দিকে চালু হয়েছে, এটি X-এর প্রিমিয়াম সাবস্ক্রিপশন সার্ভিসের সাথে যুক্ত একটি এআই চ্যাটবট। এটি প্রশ্নের উত্তর দিতে, সৃজনশীল কন্টেন্ট তৈরি করতে এবং ব্যবহারকারীদের সাথে কথোপকথন করতে ডিজাইন করা হয়েছে। X গ্রোককে বিনোদন এবং তথ্যের সরঞ্জাম হিসাবে প্রচার করলেও সমালোচকরা বলছেন যে এর ক্ষমতা সহজেই ভুল তথ্য তৈরি এবং ছড়ানোর জন্য ব্যবহার করা যেতে পারে।

শিল্প বিশ্লেষকরা মনে করেন যে সরকারের এই হস্তক্ষেপ এআই-উত্পাদিত কন্টেন্ট সম্পর্কিত ক্রমবর্ধমান নিয়ন্ত্রক চ্যালেঞ্জগুলিকে তুলে ধরে। ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের বার্কলির এআই এথিক্সের অধ্যাপক ডঃ অনন্যা শর্মা বলেছেন, "এটি একটি গুরুত্বপূর্ণ মুহূর্ত। "এটি এআই প্রযুক্তির বিকাশ এবং মোতায়েনকে নিয়ন্ত্রণ করার জন্য সুস্পষ্ট আইনি কাঠামো এবং নৈতিক নির্দেশিকাগুলির জরুরি প্রয়োজনকে তুলে ধরে, বিশেষ করে সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলির ক্ষেত্রে।"

সরকারের কর্মকর্তাদের এই দাবি এমন সময়ে এসেছে যখন বেশ কয়েকটি দেশ ডিপফেক এবং অন্যান্য ধরনের এআই-উত্পাদিত ভুল তথ্য কীভাবে নিয়ন্ত্রণ করা যায় তা নিয়ে কাজ করছে। উদাহরণস্বরূপ, ইউরোপীয় ইউনিয়ন তার প্রস্তাবিত এআই আইনের অধীনে এআই প্রযুক্তির উপর কঠোর নিয়মকানুন বিবেচনা করছে।

X বিনামূল্যে মত প্রকাশের প্রতি তার অঙ্গীকার এবং ক্ষতিকারক কন্টেন্ট থেকে ব্যবহারকারীদের রক্ষা করার প্রয়োজনের মধ্যে ভারসাম্য রক্ষার চ্যালেঞ্জের মুখোমুখি। কোম্পানির বর্তমান কন্টেন্ট মডারেশন নীতিগুলি প্রতারণা বা বিভ্রান্ত করার উদ্দেশ্যে তৈরি ডিপফেক তৈরি এবং বিতরণে নিষেধ করে, তবে এআই প্রযুক্তির দ্রুত বিকাশের কারণে এটি কার্যকর করা কঠিন হয়ে পড়েছে।

X জানিয়েছে যে তারা ডিপফেক সমস্যা সমাধানের জন্য বেশ কয়েকটি প্রযুক্তিগত সমাধান অন্বেষণ করছে, যার মধ্যে রয়েছে এআই-উত্পাদিত কন্টেন্টে ওয়াটারমার্ক যুক্ত করা, আরও অত্যাধুনিক সনাক্তকরণ অ্যালগরিদম তৈরি করা এবং যে ব্যবহারকারীরা সম্ভাব্য বিভ্রান্তিকর কন্টেন্ট তৈরি বা শেয়ার করেন তাদের জন্য কঠোর যাচাইকরণ প্রক্রিয়া প্রয়োগ করা। কোম্পানি এই ব্যবস্থাগুলি বাস্তবায়নের জন্য নির্দিষ্ট সময়সীমা দেয়নি। প্রযুক্তি নিয়ন্ত্রণ বিভাগ ইঙ্গিত দিয়েছে যে তারা X-এর অগ্রগতি পর্যবেক্ষণ করা অব্যাহত রাখবে এবং প্রয়োজনে আরও পদক্ষেপ বিবেচনা করবে।