ডাউনিং স্ট্রিট X, যা পূর্বে টুইটার নামে পরিচিত ছিল, এর গ্রোক এআই মডেল ব্যবহার করে তৈরি করা ডিপফেকগুলির সমস্যা সমাধানে পদক্ষেপ নেওয়ার বিষয়ে আসা প্রতিবেদনগুলোর প্রতি সমর্থন জানিয়েছে। প্রধানমন্ত্রীর কার্যালয় এআই-উত্পাদিত বিষয়বস্তুর অপব্যবহারের সম্ভাবনা স্বীকার করেছে এবং প্ল্যাটফর্মগুলোকে ঝুঁকি কমানোর দায়িত্ব নেওয়ার ওপর জোর দিয়েছে।

ডিপফেক, "ডিপ লার্নিং" এবং "ফেক"-এর একটি মিশ্রণ, হলো সিনথেটিক মিডিয়া যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারো প্রতিচ্ছবি দিয়ে প্রতিস্থাপন করা হয়। এই প্রযুক্তি অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তা, বিশেষ করে ডিপ লার্নিং অ্যালগরিদম ব্যবহার করে অত্যন্ত বাস্তবসম্মত, তবুও জাল কন্টেন্ট তৈরি করে। উদ্বেগের বিষয় হলো এই ডিপফেকগুলো ভুল তথ্য ছড়ানো, জনমতকে প্রভাবিত করা এবং খ্যাতি নষ্ট করার জন্য ব্যবহার করা যেতে পারে।

X-এর এআই মডেল গ্রোক, ওপেনএআই-এর জিপিটি মডেল এবং গুগল-এর জেমিনির মতো একটি বৃহৎ ভাষা মডেল (এলএলএম)। এলএলএমগুলি টেক্সট এবং কোডের বিশাল ডেটাসেটের ওপর প্রশিক্ষিত, যা তাদের মানুষের মতো গুণসম্পন্ন টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে, বিভিন্ন ধরণের সৃজনশীল কন্টেন্ট লিখতে এবং তথ্যপূর্ণ উপায়ে আপনার প্রশ্নের উত্তর দিতে সক্ষম করে। তবে, এলএলএমকে যে ক্ষমতাগুলো এত উপযোগী করে তোলে, সেই একই ক্ষমতাগুলো ডিপফেকসহ ক্ষতিকর কন্টেন্ট তৈরি করতে কাজে লাগানো যেতে পারে।

গ্রোক-উত্পাদিত ডিপফেক মোকাবেলায় X-এর সুনির্দিষ্ট পদক্ষেপের বিবরণ এখনও সীমিত থাকলেও, শিল্প বিশ্লেষকরা মনে করছেন যে প্ল্যাটফর্মটি এআই-উত্পাদিত কন্টেন্টে ওয়াটারমার্কিংয়ের মতো কৌশল প্রয়োগ করতে পারে, ডিপফেক সনাক্ত করার জন্য অ্যালগরিদম তৈরি করতে পারে এবং প্রতারণামূলক সিনথেটিক মিডিয়া তৈরি ও প্রচারের বিরুদ্ধে সুস্পষ্ট নীতি প্রতিষ্ঠা করতে পারে। ওয়াটারমার্কিংয়ের মাধ্যমে এআই-উত্পাদিত কন্টেন্ট চিহ্নিত করার জন্য একটি সূক্ষ্ম, প্রায়শই অদৃশ্য মার্কার তৈরি করা কন্টেন্টের মধ্যে এম্বেড করা হয়। সনাক্তকরণ অ্যালগরিদমগুলো মুখের বৈশিষ্ট্য বা অস্বাভাবিক নড়াচড়ার মতো হেরফেরের লক্ষণগুলোর জন্য মিডিয়া বিশ্লেষণ করে।

ডিপফেকের বিস্তার তথ্য ইকোসিস্টেমের জন্য একটি বড় চ্যালেঞ্জ তৈরি করেছে। বিশেষজ্ঞরা সতর্ক করে বলছেন যে এই প্রযুক্তিগুলোর ক্রমবর্ধমান পরিশীলিততা আসল এবং নকল কন্টেন্টের মধ্যে পার্থক্য করা কঠিন করে তোলে, যা সম্ভবত মিডিয়া এবং প্রতিষ্ঠানগুলোর ওপর থেকে বিশ্বাস কমিয়ে দিতে পারে। ইউকে সরকার এআই-এর জন্য একটি নিয়ন্ত্রক কাঠামো তৈরি করতে সক্রিয়ভাবে কাজ করছে, যেখানে প্রযুক্তির দায়িত্বশীল উন্নয়ন এবং প্রয়োগ নিশ্চিত করার ওপর জোর দেওয়া হচ্ছে।

ডিপফেক মোকাবিলায় X-এর পদক্ষেপ প্রযুক্তি শিল্পে একটি বৃহত্তর প্রবণতার সঙ্গে সঙ্গতিপূর্ণ, যেখানে কোম্পানিগুলো এআই-এর নৈতিক ও সামাজিক প্রভাব নিয়ে কাজ করছে। মেটা এবং গুগলসহ অন্যান্য প্রধান প্ল্যাটফর্মগুলোও ডিপফেক এবং অন্যান্য ধরনের এআই-উত্পাদিত ভুল তথ্যের বিস্তার মোকাবেলায় উদ্যোগ ঘোষণা করেছে।

ডাউনিং স্ট্রিটের একজন মুখপাত্রের প্রকাশিত এক বিবৃতিতে বলা হয়েছে, গ্রোক ডিপফেক মোকাবিলায় X-এর অগ্রগতি সরকার নিবিড়ভাবে পর্যবেক্ষণ করবে এবং আশা করে যে প্ল্যাটফর্মটি এই প্রযুক্তির সম্ভাব্য ক্ষতি থেকে ব্যবহারকারীদের রক্ষা করার জন্য সক্রিয় পদক্ষেপ নেবে। X-এর প্রচেষ্টা সম্পর্কে আরও আপডেট আগামী কয়েক সপ্তাহে প্রত্যাশিত।