সরকারের কর্মকর্তারা ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-কে গ্রোক (Grok) দ্বারা তৈরি "ভয়ঙ্কর" ডিপফেকগুলির বিস্তার মোকাবিলার জন্য চাপ দিচ্ছেন। গ্রোক হল প্ল্যাটফর্মটির কৃত্রিম বুদ্ধিমত্তা চ্যাটবট। এআই-উত্পাদিত ভুল তথ্যের মাধ্যমে জনমতকে প্রভাবিত করা এবং গণতান্ত্রিক প্রক্রিয়াকে ব্যাহত করার সম্ভাবনা নিয়ে ক্রমবর্ধমান উদ্বেগের মধ্যে এই দাবি এসেছে।

নাম প্রকাশে অনিচ্ছুক কর্মকর্তারা গ্রোক-উত্পাদিত বিষয়বস্তুর নির্দিষ্ট উদাহরণ উল্লেখ করেছেন, যা তারা বিশেষভাবে সমস্যাযুক্ত বলে মনে করেন। এর মধ্যে রয়েছে কারসাজি করা ভিডিও এবং অডিও রেকর্ডিং যা মিথ্যাভাবে জনসাধারণের ব্যক্তিত্বদের বক্তব্য এবং কার্যকলাপের জন্য দায়ী করা হয়েছে। তারা যুক্তি দেখিয়েছেন যে এই ডিপফেকগুলি X-এ শেয়ার করা তথ্যেরIntegrity-র জন্য একটি উল্লেখযোগ্য হুমকি এবং এর গুরুতর বাস্তব পরিণতি হতে পারে।

ডিপফেক, প্রযুক্তিগতভাবে সিনথেটিক মিডিয়া হিসাবে পরিচিত, অত্যাধুনিক এআই কৌশল ব্যবহার করে তৈরি করা হয়, বিশেষ করে ডিপ লার্নিং অ্যালগরিদম, যা ভিজ্যুয়াল এবং অডিও বিষয়বস্তুকে কারসাজি বা তৈরি করতে ব্যবহৃত হয়। জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক (GANs) প্রায়শই ব্যবহৃত হয়, যেখানে দুটি নিউরাল নেটওয়ার্ক একে অপরের সাথে প্রতিযোগিতা করে: একটি জাল সামগ্রী তৈরি করে এবং অন্যটি এটিকে আসল সামগ্রী থেকে আলাদা করার চেষ্টা করে। এই পুনরাবৃত্তিমূলক প্রক্রিয়ার ফলে ক্রমশ বাস্তবসম্মত এবং সনাক্ত করা কঠিন জাল তৈরি হয়। গ্রোকের মতো শক্তিশালী এআই মডেলগুলির উত্থান, যা সরাসরি একটি সোশ্যাল মিডিয়া প্ল্যাটফর্মের সাথে একত্রিত, ডিপফেক তৈরি এবং প্রচারকে উল্লেখযোগ্যভাবে সহজ এবং দ্রুত করে তোলে।

মাস্কের xAI দ্বারা তৈরি একটি এআই মডেল গ্রোকের (Grok) X-এর সাথে সংযুক্তি মূলত ব্যবহারকারীর অভিজ্ঞতা বাড়ানো এবং উদ্ভাবনী বৈশিষ্ট্য সরবরাহ করার উপায় হিসাবে প্রচারিত হয়েছিল। গ্রোক একটি কথোপকথনমূলক এবং প্রায়শই হাস্যরসপূর্ণ শৈলীতে প্রশ্নের উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে, যা তথ্যের একটি বিশাল ডেটাসেট থেকে নেওয়া। তবে, পাঠ্য, চিত্র এবং এমনকি কোড তৈরি করার ক্ষমতা এর অপব্যবহারের সম্ভাবনা সম্পর্কে উদ্বেগ সৃষ্টি করেছে।

"যে গতি এবং মাত্রায় এই ডিপফেকগুলি তৈরি এবং ছড়িয়ে দেওয়া যায় তা নজিরবিহীন," বলেছেন ইনস্টিটিউট ফর টেকনোলজি অ্যান্ড সোসাইটির এআই এথিক্সের একজন শীর্ষস্থানীয় বিশেষজ্ঞ ডঃ অনন্যা শর্মা। "সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলির এই প্রযুক্তিগুলির অস্ত্র হিসাবে ব্যবহার রোধ করতে শক্তিশালী সুরক্ষা ব্যবস্থা বাস্তবায়নের দায়িত্ব রয়েছে।"

সরকারের দাবি গ্রোকের সাথে সম্পর্কিত ঝুঁকিগুলি হ্রাস করার জন্য X-এর উপর সুনির্দিষ্ট পদক্ষেপ নেওয়ার জন্য চাপ সৃষ্টি করেছে। সম্ভাব্য পদক্ষেপগুলির মধ্যে রয়েছে কঠোর বিষয়বস্তু নিরীক্ষণ নীতি প্রয়োগ করা, ডিপফেক সনাক্ত এবং চিহ্নিত করার জন্য এআই-চালিত সনাক্তকরণ সরঞ্জাম তৈরি করা এবং প্ল্যাটফর্মে এআই ব্যবহারের বিষয়ে স্বচ্ছতা বৃদ্ধি করা।

X এখনও সরকারের দাবির আনুষ্ঠানিক প্রতিক্রিয়া জানায়নি। তবে, একটি সাম্প্রতিক বিবৃতিতে, সংস্থাটি এআই-উত্পাদিত সামগ্রীর দ্বারা সৃষ্ট চ্যালেঞ্জগুলি স্বীকার করেছে এবং বলেছে যে এটি "দায়িত্বশীল এআই প্রযুক্তি বিকাশ ও স্থাপনে" প্রতিশ্রুতিবদ্ধ। সংস্থাটি ভুল তথ্য এবং কারসাজির বিরুদ্ধে তার বিদ্যমান নীতিগুলির দিকেও ইঙ্গিত করেছে, যা তারা সক্রিয়ভাবে প্রয়োগ করছে বলে জানিয়েছে।

এই পরিস্থিতি এআই-এর নিয়ন্ত্রণ এবং প্রযুক্তি সংস্থাগুলির তাদের প্রযুক্তির সম্ভাব্য ক্ষতি মোকাবেলার দায়িত্ব নিয়ে বৃহত্তর বিতর্ককে তুলে ধরে। এআই মডেলগুলি আরও শক্তিশালী এবং অ্যাক্সেসযোগ্য হওয়ার সাথে সাথে কার্যকর সুরক্ষা এবং নৈতিক নির্দেশিকাগুলির প্রয়োজনীয়তা ক্রমশ জরুরি হয়ে উঠছে। X এবং গ্রোকের সাথে এই পরিস্থিতির ফলাফল ভবিষ্যতে সোশ্যাল মিডিয়া প্ল্যাটফর্ম এবং সরকারগুলি কীভাবে এআই-উত্পাদিত ভুল তথ্যের চ্যালেঞ্জগুলি মোকাবেলা করে তার একটি নজির স্থাপন করতে পারে। সরকার আগামী সপ্তাহে X-এর জন্য তার নির্দিষ্ট উদ্বেগ এবং সুপারিশগুলির রূপরেখা দিয়ে একটি বিস্তারিত প্রতিবেদন প্রকাশ করবে বলে আশা করা হচ্ছে।