ডাউনিং স্ট্রিট নিশ্চিত করেছে যে X (পূর্বে টুইটার নামে পরিচিত) গ্রোক ব্যবহার করে তৈরি করা ডিপফেকগুলির সমস্যা সমাধানে পদক্ষেপ নিচ্ছে। কৃত্রিম বুদ্ধিমত্তা (AI) মডেল। ভুল তথ্য ছড়ানো এবং জনমতকে প্রভাবিত করার ক্ষেত্রে AI-ভিত্তিক কন্টেন্টের অপব্যবহারের সম্ভাবনা নিয়ে ক্রমবর্ধমান উদ্বেগের মধ্যে এই পদক্ষেপ নেওয়া হয়েছে।

প্রধানমন্ত্রীর কার্যালয়ের একজন মুখপাত্র বলেছেন, সরকার ডিপফেকগুলির সাথে সম্পর্কিত ঝুঁকি কমাতে সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলির যেকোনো প্রচেষ্টাকে স্বাগত জানায়। মুখপাত্র বলেন, "আমরা স্পষ্টভাবে বলেছি যে প্রযুক্তি সংস্থাগুলোকে তাদের প্ল্যাটফর্মে হোস্ট করা কন্টেন্টের দায় নিতে হবে, বিশেষ করে AI-ভিত্তিক উপাদান যা প্রতারণা বা বিভ্রান্ত করতে ব্যবহার করা যেতে পারে।"

ডিপফেক হল সিনথেটিক মিডিয়া যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারো প্রতিচ্ছবি দিয়ে প্রতিস্থাপন করা হয়। এটি সাধারণত অত্যাধুনিক মেশিন লার্নিং কৌশল ব্যবহার করে করা হয়, বিশেষ করে ডিপ লার্নিং অ্যালগরিদম, তাই এর এই নাম। X-এর AI মডেল গ্রোক, OpenAI-এর GPT সিরিজ বা Google-এর Gemini-এর মতো একটি বৃহৎ ভাষা মডেল (LLM)। LLM-গুলিকে বিপুল পরিমাণ টেক্সট ডেটা দিয়ে প্রশিক্ষণ দেওয়া হয়, যা তাদের মানুষের মতো টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে এবং ডিপফেক অ্যাপ্লিকেশনগুলির জন্য অন্তর্নিহিত টেক্সট সহ বিভিন্ন ধরণের সৃজনশীল কন্টেন্ট তৈরি করতে সক্ষম করে।

গ্রোক-জেনারেটেড ডিপফেকগুলির বিরুদ্ধে লড়াই করার জন্য X কী কী পদক্ষেপ নিচ্ছে, তা এখনও সম্পূর্ণরূপে প্রকাশ করা হয়নি। তবে, শিল্প বিশ্লেষকরা মনে করছেন যে এর মধ্যে উন্নত কন্টেন্ট সনাক্তকরণ অ্যালগরিদম, কঠোর ব্যবহারকারী যাচাইকরণ প্রক্রিয়া এবং AI-উত্পাদিত কন্টেন্টের জন্য আরও স্পষ্ট লেবেলিং নীতি অন্তর্ভুক্ত থাকতে পারে। কন্টেন্ট সনাক্তকরণ অ্যালগরিদমগুলি কারসাজির লক্ষণগুলির জন্য মিডিয়া বিশ্লেষণ করে, যেমন আলোতে অসামঞ্জস্যতা, অস্বাভাবিক মুখের নড়াচড়া বা ডিপফেক তৈরির প্রক্রিয়ার সময় প্রবর্তিত ত্রুটি।

গ্রোকের মতো সহজলভ্য AI সরঞ্জামগুলির উত্থান ডিপফেক তৈরির ক্ষেত্রে প্রবেশে বাধা কমিয়ে দিয়েছে, যা দূষিত অভিনেতাদের জন্য বিশ্বাসযোগ্য কিন্তু জাল কন্টেন্ট তৈরি এবং প্রচার করা সহজ করে তুলেছে। এটি তথ্য ইকোসিস্টেমের জন্য একটি গুরুত্বপূর্ণ চ্যালেঞ্জ তৈরি করেছে, যা বৈধ সংবাদ উৎস এবং প্রতিষ্ঠানের প্রতি বিশ্বাসকে দুর্বল করে দিতে পারে।

যুক্তরাজ্য সরকার AI-এর জন্য নিয়ন্ত্রক কাঠামো বিবেচনা করছে, যার মধ্যে ডিপফেকগুলির সাথে সম্পর্কিত ঝুঁকি মোকাবিলার ব্যবস্থা রয়েছে। অনলাইন সেফটি অ্যাক্ট, যা সম্প্রতি কার্যকর হয়েছে, সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলির উপর ব্যবহারকারীদের অবৈধ এবং ক্ষতিকারক কন্টেন্ট থেকে রক্ষা করার জন্য একটি ডিউটি ​​অফ কেয়ার আরোপ করে, যা সম্ভাব্যভাবে কিছু ধরণের ডিপফেক অন্তর্ভুক্ত করার জন্য ব্যাখ্যা করা যেতে পারে।

X এখনও পর্যন্ত তার পরিকল্পনাগুলির বিস্তারিত বিবরণ দিয়ে কোনও আনুষ্ঠানিক বিবৃতি প্রকাশ করেনি। সংস্থাটি আগামী সপ্তাহগুলিতে গ্রোক-সম্পর্কিত ডিপফেক মোকাবিলা করার বিষয়ে আরও তথ্য সরবরাহ করবে বলে আশা করা হচ্ছে। AI-এর দায়িত্বশীল বিকাশ এবং স্থাপনার বিষয়ে বিতর্ক অব্যাহত থাকায় X-এর পদক্ষেপগুলির কার্যকারিতা নীতিনির্ধারক, নিয়ন্ত্রক এবং জনসাধারণ কর্তৃক নিবিড়ভাবে পর্যবেক্ষণ করা হবে।