সরকারের কর্মকর্তারা ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-কে গ্রোক (Grok) দ্বারা তৈরি "ভয়ঙ্কর" ডিপফেকগুলির বিস্তার মোকাবিলার জন্য চাপ দিচ্ছেন। গ্রোক হল প্ল্যাটফর্মটির কৃত্রিম বুদ্ধিমত্তা চ্যাটবট। X-এ বাস্তবসম্মত কিন্তু বানোয়াট কন্টেন্টের বিস্তারের পরেই এই দাবি উঠেছে, যা ভুল তথ্য এবং ব্যক্তি ও প্রতিষ্ঠানের সম্ভাব্য ক্ষতি সম্পর্কে উদ্বেগ বাড়িয়েছে।

সরকারের উদ্বেগের কেন্দ্রবিন্দু হল গ্রোকের অত্যন্ত বিশ্বাসযোগ্য অডিও এবং ভিডিও ডিপফেক তৈরি করার ক্ষমতা। এই সিনথেটিক মিডিয়া সৃষ্টিগুলি বাস্তব মানুষের কণ্ঠস্বর এবং চেহারা নকল করতে পারে, যার ফলে সাধারণ ব্যবহারকারীর পক্ষে আসল কন্টেন্ট থেকে এগুলিকে আলাদা করা কঠিন হয়ে পড়ে। একজন সরকারি মুখপাত্র বলেছেন, "এই ডিপফেকগুলির পরিশীলিততা গভীরভাবে উদ্বেগজনক। আমরা এমন একটি বাস্তবতার স্তর দেখছি যা জনসাধারণকে প্রতারিত করা অবিশ্বাস্যভাবে সহজ করে তোলে।"

মাস্কের এআই কোম্পানি xAI দ্বারা তৈরি গ্রোক একটি বৃহৎ ভাষা মডেল (LLM), যা টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে, বিভিন্ন ধরণের সৃজনশীল কন্টেন্ট লিখতে এবং তথ্যপূর্ণ উপায়ে প্রশ্নের উত্তর দিতে ডিজাইন করা হয়েছে। অন্যান্য কিছু LLM-এর বিপরীতে, গ্রোক সরাসরি X প্ল্যাটফর্মের সাথে একত্রিত, যা প্রিমিয়াম সাবস্ক্রিপশন সহ ব্যবহারকারীদের সোশ্যাল মিডিয়া পরিবেশের মধ্যে এর ক্ষমতাগুলি অ্যাক্সেস এবং ব্যবহার করতে দেয়। এই ইন্টিগ্রেশন, ব্যবহারকারীর অভিজ্ঞতা বাড়ানোর উদ্দেশ্যে করা হলেও, অজান্তেই ডিপফেক তৈরি এবং বিতরণের জন্য একটি সহজে উপলব্ধ সরঞ্জাম সরবরাহ করেছে।

এই পরিস্থিতির শিল্প প্রভাব তাৎপর্যপূর্ণ। এআই নীতিবিদ এবং প্রযুক্তি বিশেষজ্ঞরা দীর্ঘদিন ধরে গ্রোকের মতো জেনারেটিভ এআই প্রযুক্তির অপব্যবহারের সম্ভাবনা সম্পর্কে সতর্ক করেছেন। X-এর বর্তমান পরিস্থিতি উদ্ভাবনের সঙ্গে দায়িত্বশীল ব্যবহারের মধ্যে ভারসাম্য রক্ষার চ্যালেঞ্জগুলো তুলে ধরে। একজন শীর্ষস্থানীয় এআই গবেষক ডঃ Anya Sharma বলেছেন, "এটি পুরো শিল্পের জন্য একটি সতর্কবার্তা। ডিপফেকগুলি অপূরণীয় ক্ষতি করার আগে এর বিস্তার মোকাবেলার জন্য আমাদের শক্তিশালী সুরক্ষা এবং সনাক্তকরণ ব্যবস্থা তৈরি করতে হবে।"

X সরকারের দাবির প্রতিক্রিয়ায় জানিয়েছে যে তারা তাদের ডিপফেক সনাক্তকরণ ক্ষমতা উন্নত করতে এবং কঠোর কন্টেন্ট মডারেশন নীতি বাস্তবায়নে সক্রিয়ভাবে কাজ করছে। কোম্পানির দাবি, তারা সিনথেটিক মিডিয়া চিহ্নিত এবং ফ্ল্যাগ করার জন্য ডিজাইন করা উন্নত এআই অ্যালগরিদমে বিনিয়োগ করছে। X থেকে প্রকাশিত এক বিবৃতিতে বলা হয়েছে, "আমরা আমাদের প্ল্যাটফর্মের অখণ্ডতা নিশ্চিত করতে এবং ক্ষতিকারক ভুল তথ্যের বিস্তার রোধ করতে প্রতিশ্রুতিবদ্ধ।" তবে, সমালোচকরা বলছেন যে X-এর প্রচেষ্টা অপ্রতুল এবং প্ল্যাটফর্মটিকে ডিপফেক তৈরি এবং বিতরণে লাগাম টানতে আরও বেশি निर्णायक পদক্ষেপ নিতে হবে।

বর্তমান অবস্থা হল সরকার এবং X-এর মধ্যে আলোচনা চলছে। প্রতিবেদনে বলা হয়েছে, X যদি সমস্যাটির পর্যাপ্ত সমাধান করতে ব্যর্থ হয় তবে সরকার নিয়ন্ত্রক ব্যবস্থা নেওয়ার কথা বিবেচনা করছে। পরবর্তী উন্নয়নের মধ্যে X দ্বারা আপডেট করা কন্টেন্ট মডারেশন নীতি প্রকাশ এবং সম্ভবত এআই-উত্পাদিত কন্টেন্টের ব্যবহার নিয়ন্ত্রণ করার লক্ষ্যে নতুন আইন প্রবর্তন অন্তর্ভুক্ত থাকতে পারে। পরিস্থিতি দ্রুত অগ্রসর হওয়া এআই প্রযুক্তির সাথে সম্পর্কিত ঝুঁকিগুলি পরিচালনার জন্য একটি ব্যাপক পদ্ধতির জরুরি প্রয়োজনকে তুলে ধরে।