সরকারের কর্মকর্তারা ইলন মাস্কের সামাজিক মাধ্যম প্ল্যাটফর্ম X-কে গ্রোক (Grok) দ্বারা তৈরি হওয়া "ভয়ঙ্কর" ডিপফেকগুলির বিস্তার নিয়ে ব্যবস্থা নেওয়ার জন্য চাপ দিচ্ছেন। গ্রোক হল প্ল্যাটফর্মটির কৃত্রিম বুদ্ধিমত্তা সম্পন্ন চ্যাটবট। X-এ কারসাজি করা অডিও এবং ভিডিওর পরিমাণ বেড়ে যাওয়ায় এই দাবি উঠেছে। এর ফলে ভুল তথ্য ছড়ানো এবং ব্যক্তি ও প্রতিষ্ঠানের সম্ভাব্য ক্ষতি নিয়ে উদ্বেগ দেখা দিয়েছে।

সরকারের উদ্বেগের কেন্দ্রবিন্দু হল গ্রোকের বাস্তবসম্মত এবং বিশ্বাসযোগ্য ডিপফেক তৈরি করার ক্ষমতা। এই ডিপফেকগুলি হল সিনথেটিক মিডিয়া যেখানে কোনো বিদ্যমান ছবি বা ভিডিওতে থাকা কোনো ব্যক্তির জায়গায় অন্য কারো প্রতিচ্ছবি বসানো হয়। কর্মকর্তারা জানিয়েছেন, এই ডিপফেকগুলি মিথ্যা কাহিনি ছড়াতে, জনপ্রতিনিধিদের নকল করতে এবং সম্ভবত জনমতকে প্রভাবিত করতে ব্যবহৃত হচ্ছে। প্রযুক্তি মান বিভাগের একজন মুখপাত্র এক বিবৃতিতে বলেছেন, "গ্রোক-তৈরি ডিপফেকগুলির পরিশীলিত রূপটি গভীরভাবে উদ্বেগজনক। আমরা X-কে জনসাধারণের জন্য এর ঝুঁকি কমাতে অবিলম্বে ব্যবস্থা নেওয়ার দাবি জানাচ্ছি।"

মাস্কের এআই কোম্পানি xAI দ্বারা চালু করা গ্রোক একটি বৃহৎ ভাষা মডেল (LLM), যা কথোপকথন শৈলীতে প্রশ্নের উত্তর দিতে এবং টেক্সট তৈরি করতে ডিজাইন করা হয়েছে। LLM-গুলিকে টেক্সট এবং কোডের বিশাল ডেটাসেটের উপর প্রশিক্ষণ দেওয়া হয়, যা তাদের মানুষের মতো ভাষা বুঝতে এবং তৈরি করতে সক্ষম করে। xAI গ্রোকের শিক্ষা এবং বিনোদনের সম্ভাবনা নিয়ে আলোচনা করলেও সমালোচকরা এর অপব্যবহারের সম্ভাবনা সম্পর্কে সতর্ক করেছেন, বিশেষ করে ভুল তথ্য তৈরির ক্ষেত্রে।

X-এর বর্তমান নীতি প্রতারণা বা বিভ্রান্তি ছড়ানোর উদ্দেশ্যে তৈরি করা এবং বিতরণ করা ডিপফেকগুলিকে নিষিদ্ধ করে। তবে কর্মকর্তারা বলছেন যে প্ল্যাটফর্মটির প্রয়োগ করার পদ্ধতি যথেষ্ট নয়। তারা সাম্প্রতিক সপ্তাহগুলিতে X-এ বেশ কয়েকটি বহুল প্রচারিত ডিপফেকের দ্রুত বিস্তারকে তুলে ধরেছেন, যার মধ্যে একটিতে একজন বিশিষ্ট রাজনীতিবিদকে মিথ্যাভাবে উস্কানিমূলক মন্তব্য করতে দেখানো হয়েছে। প্রযুক্তি মান বিভাগের মুখপাত্র আরও বলেন, "তাদের বর্তমান সংযমের প্রচেষ্টা এই সমস্যার মাত্রা এবং জটিলতা মোকাবিলা করার জন্য স্পষ্টতই অপ্রতুল।"

সরকারের এই দাবি X-এর উপর ডিপফেক সনাক্তকরণ এবং অপসারণের ক্ষমতা বাড়ানোর জন্য চাপ সৃষ্টি করেছে। সম্ভাব্য সমাধানগুলির মধ্যে আরও অত্যাধুনিক এআই-চালিত সনাক্তকরণ সরঞ্জাম ব্যবহার করা, মানবmoderation বৃদ্ধি করা এবং স্বাধীন ফ্যাক্ট-চেকিং সংস্থাগুলির সাথে সহযোগিতা করা অন্তর্ভুক্ত। এই পরিস্থিতি এআই-উত্পাদিত সামগ্রী নিয়ন্ত্রণ এবং ভুল তথ্যের বিরুদ্ধে সুরক্ষার প্রয়োজনের সাথে বাক স্বাধীনতার ভারসাম্য রক্ষার বৃহত্তর চ্যালেঞ্জগুলোকেও তুলে ধরে।

শিল্প বিশ্লেষকরা মনে করেন যে এই ঘটনা এআই সংস্থাগুলি এবং সামাজিক মাধ্যম প্ল্যাটফর্মগুলির উপর আরও বেশি নজরদারির দিকে পরিচালিত করতে পারে, যার ফলে কঠোর নিয়মকানুন এবং তাদের প্ল্যাটফর্মে শেয়ার করা সামগ্রীর জন্য বৃহত্তর জবাবদিহিতা তৈরি হতে পারে। ইনস্টিটিউট ফর টেকনোলজি পলিসির একজন শীর্ষস্থানীয় এআই এথিক্স গবেষক ডঃ অন্যা শর্মা বলেছেন, "এটি পুরো শিল্পের জন্য একটি সতর্কবার্তা। এআই প্রযুক্তির অপব্যবহার রোধ করতে এবং এটি নিশ্চিত করতে আমাদের শক্তিশালী সুরক্ষা ব্যবস্থা তৈরি করতে হবে যে সেগুলি যেন দায়িত্বের সাথে ব্যবহার করা হয়।"

X সরকারের উদ্বেগ স্বীকার করেছে এবং জানিয়েছে যে তারা তাদের ডিপফেক সনাক্তকরণ এবং অপসারণের ক্ষমতা উন্নত করার জন্য "সক্রিয়ভাবে কাজ করছে"। কোম্পানিটি এখনও পর্যন্ত কী কী পদক্ষেপ নেবে তা জানায়নি, তবে কর্মকর্তারা ইঙ্গিত দিয়েছেন যে তারা আগামী দুই সপ্তাহের মধ্যে একটি বিস্তারিত কর্মপরিকল্পনা আশা করছেন। এই পরিস্থিতির ফলাফল এআই নিয়ন্ত্রণ এবং অনলাইন ভুল তথ্যের বিরুদ্ধে লড়াইয়ের ভবিষ্যতে গুরুত্বপূর্ণ প্রভাব ফেলতে পারে।