ডাউনিং স্ট্রিট জানিয়েছে যে তারা X (পূর্বে টুইটার নামে পরিচিত)-এর গ্রোক এআই মডেল ব্যবহার করে তৈরি করা ডিপফেকগুলির সমস্যা সমাধানে পদক্ষেপ নেওয়ার বিষয়ে অবগত। সরকারের ইতিবাচক প্রতিক্রিয়া সামাজিক মাধ্যম প্ল্যাটফর্মগুলির উপর এআই-উত্পাদিত ভুল তথ্য ছড়ানো প্রতিরোধের জন্য ক্রমবর্ধমান চাপের ইঙ্গিত দেয়।

X-এর এই পদক্ষেপটি গ্রোকের সম্ভাব্য অপব্যবহার নিয়ে ক্রমবর্ধমান উদ্বেগের মধ্যে এসেছে। গ্রোক একটি কথোপকথনমূলক এআই এবং টেক্সট জেনারেশনের জন্য ডিজাইন করা একটি এআই মডেল, যা убедительный কিন্তু জাল অডিও এবং ভিডিও সামগ্রী তৈরি করতে ব্যবহৃত হতে পারে। ডিপফেকগুলি অত্যাধুনিক মেশিন লার্নিং কৌশল ব্যবহার করে তৈরি করা হয়, যা কোনো ব্যক্তির ছদ্মবেশ ধারণ করতে, মিথ্যা গল্প ছড়াতে এবং জনমতকে প্রভাবিত করতে ব্যবহার করা যেতে পারে।

ডাউনিং স্ট্রিটের একজন মুখপাত্র বলেছেন, "এআই-উত্পাদিত সামগ্রীর সাথে সম্পর্কিত ঝুঁকি কমাতে যেকোনো প্রচেষ্টাকে আমরা স্বাগত জানাই।" "এটা খুবই গুরুত্বপূর্ণ যে প্ল্যাটফর্মগুলি তাদের ব্যবহৃত প্রযুক্তির দায়ভার নেয় এবং এর অপব্যবহার রোধে সক্রিয়ভাবে কাজ করে।"

xAI দ্বারা তৈরি গ্রোক, যা ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা সংস্থা, একটি বৃহৎ ভাষা মডেল (LLM) যা টেক্সট এবং কোডের একটি বিশাল ডেটাসেটের উপর প্রশিক্ষিত। গ্রোকের মতো LLMগুলি মানুষের মতো টেক্সট বুঝতে এবং তৈরি করতে বিলিয়ন প্যারামিটার সহ নিউরাল নেটওয়ার্ক ব্যবহার করে। উদ্বেগের কারণ হল মডেলটির বাস্তবসম্মত স্ক্রিপ্ট এবং সংলাপ তৈরি করার ক্ষমতা, যা পরে ছবি এবং ভিডিও ম্যানিপুলেশন কৌশলগুলির সাথে মিলিত হয়ে বিশ্বাসযোগ্য ডিপফেক তৈরি করতে পারে।

X-এর নির্দিষ্ট পদক্ষেপের বিবরণ এখনও সীমিত, তবে শিল্প বিশ্লেষকরা মনে করছেন যে প্ল্যাটফর্মটি সনাক্তকরণ অ্যালগরিদম, কন্টেন্ট মডারেশন নীতি এবং ব্যবহারকারী রিপোর্টিং ব্যবস্থার সংমিশ্রণ বাস্তবায়ন করতে পারে। সনাক্তকরণ অ্যালগরিদমগুলি ভিডিও এবং অডিও সামগ্রীতে এআই ম্যানিপুলেশনের লক্ষণগুলির জন্য বিশ্লেষণ করতে পারে, যেমন মুখের নড়াচড়ার মধ্যে অসঙ্গতি বা অস্বাভাবিক speech প্যাটার্ন। কন্টেন্ট মডারেশন নীতিগুলি ডিপফেকগুলির উপর প্ল্যাটফর্মের অবস্থান এবং যে ব্যবহারকারীরা এগুলি তৈরি বা শেয়ার করে তাদের জন্য পরিণতিগুলি তুলে ধরবে। ব্যবহারকারী রিপোর্টিং ব্যবস্থা ব্যবহারকারীদের X-এর মডারেশন টিমের পর্যালোচনার জন্য সম্ভাব্য ক্ষতিকারক সামগ্রী চিহ্নিত করতে দেবে।

গ্রোকের মতো জেনারেটিভ এআই সরঞ্জামগুলির উত্থান সামাজিক মাধ্যম প্ল্যাটফর্ম এবং নীতিনির্ধারক উভয়ের জন্যই একটি গুরুত্বপূর্ণ চ্যালেঞ্জ তৈরি করেছে। বিদ্যমান নিয়মগুলি প্রায়শই এআই প্রযুক্তির দ্রুত অগ্রগতির সাথে তাল মিলিয়ে চলতে সংগ্রাম করে। উদাহরণস্বরূপ, ইউরোপীয় ইউনিয়নের এআই আইন, তাদের ঝুঁকির স্তরের উপর ভিত্তি করে এআই সিস্টেমগুলিকে নিয়ন্ত্রণ করার লক্ষ্য রাখে, তবে ডিপফেকের নির্দিষ্ট হুমকি মোকাবেলায় এর কার্যকারিতা এখনও দেখার বিষয়।

X-এর পদক্ষেপের শিল্প প্রভাব যথেষ্ট হতে পারে, সম্ভবত অন্যান্য প্ল্যাটফর্মগুলির জন্য অনুসরণ করার মতো একটি নজির স্থাপন করতে পারে। ডিপফেক প্রযুক্তি আরও অত্যাধুনিক এবং সহজলভ্য হওয়ার সাথে সাথে সামাজিক মাধ্যম সংস্থাগুলির উপর সক্রিয়ভাবে এই সমস্যা সমাধানের চাপ আরও বাড়বে। কার্যকর সনাক্তকরণ এবং প্রশমন কৌশলগুলির বিকাশ এবং বাস্তবায়ন জন আস্থা বজায় রাখতে এবং ভুল তথ্যের বিস্তার রোধে অত্যন্ত গুরুত্বপূর্ণ হবে।

Grok-উত্পাদিত ডিপফেকগুলি মোকাবেলার জন্য X এখনও পর্যন্ত তার নির্দিষ্ট পরিকল্পনাগুলির রূপরেখা দিয়ে একটি বিস্তৃত বিবৃতি প্রকাশ করেনি। আগামী কয়েক সপ্তাহের মধ্যে আরও বিস্তারিত তথ্য প্রত্যাশা করা হচ্ছে।