সরকারি কর্মকর্তারা ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-কে তাদের কৃত্রিম বুদ্ধিমত্তা চ্যাটবট Grok দ্বারা তৈরি করা ডিপফেকগুলোর বিস্তার রোধ করার নির্দেশ দিয়েছেন। সরকার "ভয়াবহ" অপব্যবহারের উদাহরণ উল্লেখ করে ভুল তথ্য এবং সম্ভাব্য ক্ষতির বিষয়ে উদ্বেগ প্রকাশ করেছে।

ডিজিটাল ইন্টিগ্রিটি বিভাগ (DDI) বুধবার এই নির্দেশ জারি করে। X-এ প্রচারিত অত্যন্ত বাস্তবসম্মত, এআই-জেনারেটেড ভিডিও এবং ছবিগুলোর বিষয়ে ব্যবহারকারীদের কাছ থেকে প্রচুর অভিযোগ আসার পরেই এই পদক্ষেপ নেওয়া হয়েছে। DDI-এর মতে, এই ডিপফেকগুলোতে প্রায়শই জনFiguresদের বৈশিষ্ট্য থাকে এবং এগুলো মিথ্যা কাহিনী বা ক্ষতিকর বিষয়বস্তু ছড়ানোর জন্য ব্যবহার করা হয়।

DDI-এর ডিরেক্টর Anya Sharma একটি প্রেস বিবৃতিতে বলেছেন, "Grok-কে অস্ত্র হিসেবে ব্যবহার করার সম্ভাবনা নিয়ে আমরা গভীরভাবে উদ্বিগ্ন। প্রযুক্তিটি সহজাতভাবে ক্ষতিকর নয়, তবে X-এ পর্যাপ্ত সুরক্ষার অভাবে এটিকে খারাপ উদ্দেশ্যে ব্যবহার করা হচ্ছে। এই হুমকি কমাতে আমাদের অবিলম্বে পদক্ষেপ নেওয়া দরকার।"

মাস্কের xAI দ্বারা তৈরি করা একটি এআই চ্যাটবট Grok, X Premium+ সাবস্ক্রিপশন স্তরের সাথে যুক্ত। এটি প্রশ্নের উত্তর দিতে, সৃজনশীল বিষয়বস্তু তৈরি করতে এবং রিয়েল-টাইম তথ্য সরবরাহ করার জন্য ডিজাইন করা হয়েছে। তবে, বাস্তবসম্মত ছবি এবং ভিডিও তৈরি করার ক্ষমতার কারণে এটির অপব্যবহারের সম্ভাবনা নিয়ে উদ্বেগ দেখা দিয়েছে।

প্রযুক্তি বিশেষজ্ঞরা ব্যাখ্যা করেছেন যে ডিপফেকগুলো অত্যাধুনিক মেশিন লার্নিং অ্যালগরিদম, বিশেষ করে ডিপ নিউরাল নেটওয়ার্ক ব্যবহার করে ভিজ্যুয়াল এবং অডিও বিষয়বস্তু ম্যানিপুলেট বা সংশ্লেষ করে। এই অ্যালগরিদমগুলো ছবি এবং ভিডিওর বিশাল ডেটাসেটের উপর প্রশিক্ষিত, যা তাদের বিশ্বাসযোগ্য জাল তৈরি করতে সক্ষম করে। তুলনামূলকভাবে কম খরচ এবং এই প্রযুক্তিগুলোর ক্রমবর্ধমান সহজলভ্যতা ডিপফেকগুলোর উত্থানে অবদান রেখেছে।

DDI-এর নির্দেশে বেশ কয়েকটি মূল ক্ষেত্রগুলির উপর জোর দেওয়া হয়েছে, যার মধ্যে রয়েছে উন্নত কন্টেন্ট মডারেশন নীতি, ডিপফেক সনাক্তকরণের জন্য উন্নত ডিটেকশন অ্যালগরিদম এবং কঠোর ব্যবহারকারী যাচাইকরণ প্রোটোকল। সরকার প্ল্যাটফর্মে এআই-জেনারেটেড কন্টেন্টের ব্যবহার সম্পর্কে আরও বেশি স্বচ্ছতা দাবি করছে।

X, DDI-এর নির্দেশের প্রতিক্রিয়ায় একটি বিবৃতিতে উদ্বেগের কথা স্বীকার করেছে। বিবৃতিতে বলা হয়েছে, "আমরা আমাদের প্ল্যাটফর্মে ডিপফেকগুলোর সমস্যা সমাধানে প্রতিশ্রুতিবদ্ধ। ক্ষতিকর এআই-জেনারেটেড কন্টেন্ট সনাক্ত এবং অপসারণের জন্য আমরা নতুন প্রযুক্তি তৈরি এবং স্থাপনে সক্রিয়ভাবে কাজ করছি। আমরা ব্যবহারকারী যাচাইকরণ বাড়ানোর এবং দায়িত্বশীল এআই ব্যবহারকে উৎসাহিত করার উপায়গুলোও অনুসন্ধান করছি।"

শিল্প বিশ্লেষকরা মনে করেন যে এই ঘটনাটি এআই-জেনারেটেড কন্টেন্ট নিয়ন্ত্রণের ক্রমবর্ধমান চ্যালেঞ্জগুলোকে তুলে ধরে। স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্সের অধ্যাপক ড. বেন কার্টার বলেন, "এআই প্রযুক্তি যে গতিতে এগিয়ে যাচ্ছে, তা কার্যকর নিয়ন্ত্রক কাঠামো তৈরি করার আমাদের ক্ষমতাকে ছাড়িয়ে যাচ্ছে। এই চ্যালেঞ্জগুলো মোকাবিলা করতে সরকার, শিল্প এবং একাডেমিয়ার মধ্যে সহযোগিতার মাধ্যমে একটি বহুমাত্রিক পদ্ধতির প্রয়োজন।"

DDI, X-কে ডিপফেক সমস্যা সমাধানের জন্য প্রস্তাবিত পদক্ষেপগুলোর রূপরেখা দিয়ে একটি বিস্তারিত পরিকল্পনা জমা দেওয়ার জন্য দুই সপ্তাহের সময়সীমা দিয়েছে। DDI অনুসারে, এই সময়ের মধ্যে পরিকল্পনা জমা দিতে ব্যর্থ হলে জরিমানা বা অন্যান্য নিয়ন্ত্রক ব্যবস্থা নেওয়া হতে পারে। পরিস্থিতি এখনও পরিবর্তনশীল, এবং X সরকারের দাবিগুলোর প্রতিক্রিয়া জানালে আগামী দিনে আরও নতুন কিছু ঘটতে পারে বলে আশা করা যাচ্ছে।