সরকারের কর্মকর্তারা ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-কে গ্রোক (Grok) নামক প্ল্যাটফর্মটির কৃত্রিম বুদ্ধিমত্তা চ্যাটবট দ্বারা তৈরি "ভয়ঙ্কর" ডিপফেকগুলির বিস্তার মোকাবিলার জন্য চাপ দিচ্ছেন। উদ্বেগের কেন্দ্রবিন্দু হলো এই এআই-জেনারেটেড ছবি এবং ভিডিওগুলির মাধ্যমে ভুল তথ্য ছড়ানো এবং সম্মানহানি করার সম্ভাবনা, বিশেষ করে আসন্ন নির্বাচনকে সামনে রেখে।

গতকাল সন্ধ্যায় দ্বিদলীয় সিনেটরদের একটি দল X-এর কাছে গ্রোক ব্যবহার করে ডিপফেক তৈরি এবং ছড়ানো বন্ধ করতে কঠোর পদক্ষেপ নেওয়ার দাবি জানিয়েছে। বিশেষভাবে, সিনেটররা X-কে তাদের কন্টেন্ট মডারেশন নীতি উন্নত করতে, ডিপফেক শনাক্তকরণ ক্ষমতা বাড়াতে এবং সন্দেহজনক এআই-জেনারেটেড ভুল তথ্য জানানোর জন্য ব্যবহারকারীদের আরও স্পষ্ট প্রক্রিয়া সরবরাহ করতে অনুরোধ করছেন।

ক্যালিফোর্নিয়ার ডেমোক্র্যাট সিনেটর সারাহ চেন এক প্রেস বিজ্ঞপ্তিতে বলেন, "এআই প্রযুক্তির দ্রুত অগ্রগতি সুযোগ এবং চ্যালেঞ্জ উভয়ই তৈরি করে।" "গ্রোকের একটি মূল্যবান হাতিয়ার হওয়ার সম্ভাবনা থাকলেও, বিশ্বাসযোগ্য কিন্তু জাল কন্টেন্ট তৈরি করতে এর অপব্যবহার অত্যন্ত উদ্বেগজনক। X-এর প্ল্যাটফর্মটিকে এভাবে অস্ত্র হিসেবে ব্যবহার করা থেকে বিরত রাখার দায়িত্ব রয়েছে।"

ডিপফেক, প্রযুক্তিগতভাবে সিনথেটিক মিডিয়া হিসাবে পরিচিত, অত্যাধুনিক এআই অ্যালগরিদম ব্যবহার করে তৈরি করা হয়, যা প্রায়শই জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্কস (GANs) এর মতো ডিপ লার্নিং কৌশলগুলির উপর ভিত্তি করে তৈরি হয়। GANs-এ দুটি নিউরাল নেটওয়ার্ক, একটি জেনারেটর এবং একটি ডিসক্রিমিনেটর জড়িত, যা একে অপরের সাথে কাজ করে। জেনারেটর সিনথেটিক কন্টেন্ট তৈরি করে, যেখানে ডিসক্রিমিনেটর আসল এবং নকল কন্টেন্টের মধ্যে পার্থক্য করার চেষ্টা করে। এই পুনরাবৃত্তিমূলক প্রক্রিয়ার মাধ্যমে, জেনারেটর বাস্তবসম্মত জালিয়াতি তৈরিতে ক্রমশ দক্ষ হয়ে ওঠে। উদ্বেগের বিষয় হলো এই জালিয়াতিগুলি কোনো ব্যক্তির ছদ্মবেশ ধারণ করতে, মিথ্যা কাহিনী ছড়াতে এবং জনমতকে প্রভাবিত করতে ব্যবহার করা যেতে পারে।

X ২০২৩ সালের শেষের দিকে গ্রোককে সরাসরি প্ল্যাটফর্মে একত্রিত একটি বৈশিষ্ট্য হিসাবে তার প্রিমিয়াম গ্রাহকদের জন্য চালু করে। গ্রোক একটি কথোপকথনমূলক ভঙ্গিতে প্রশ্নের উত্তর দিতে এবং রিয়েল-টাইম তথ্য সরবরাহ করার জন্য ডিজাইন করা হয়েছে। যদিও X-এর ক্ষতিকারক কন্টেন্ট তৈরি এবং বিতরণে নিষেধাজ্ঞা রয়েছে, সমালোচকরা বলছেন যে এআই-জেনারেটেড ডিপফেকগুলির দ্বারা সৃষ্ট অনন্য চ্যালেঞ্জ মোকাবেলায় এই নীতিগুলি যথেষ্ট নয়। প্ল্যাটফর্মটি বর্তমানে লঙ্ঘনকারী কন্টেন্ট সনাক্ত এবং অপসারণ করতে স্বয়ংক্রিয় সনাক্তকরণ সিস্টেম এবং ব্যবহারকারীর রিপোর্টের সংমিশ্রণের উপর নির্ভর করে।

শিল্প বিশ্লেষকরা মনে করেন যে X-এর ব্যবহারকারীর রিপোর্টের উপর নির্ভরতা একটি উল্লেখযোগ্য দুর্বলতা, কারণ ডিপফেকগুলি চিহ্নিত এবং সরানোর আগে দ্রুত ছড়িয়ে পড়তে পারে। তাছাড়া, বর্তমান ডিপফেক সনাক্তকরণ প্রযুক্তি ত্রুটিমুক্ত নয়, এবং অত্যাধুনিক জালিয়াতিগুলি প্রায়শই সনাক্তকরণ এড়াতে পারে। স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের এআই গবেষক ডঃ ডেভিড লি ব্যাখ্যা করেন, "চ্যালেঞ্জ হলো সময়ের সাথে তাল মিলিয়ে চলা।" "এআই মডেলগুলি যত শক্তিশালী হবে, তত বিশ্বাসযোগ্য ডিপফেক তৈরি করার ক্ষমতাও বাড়বে। প্ল্যাটফর্মগুলিকে অত্যাধুনিক সনাক্তকরণ প্রযুক্তি এবং শক্তিশালী কন্টেন্ট মডারেশন কৌশলগুলিতে বিনিয়োগ করতে হবে।"

সরকারের দাবির বিষয়ে X এখনও কোনো আনুষ্ঠানিক প্রতিক্রিয়া জানায়নি। তবে, সাম্প্রতিক এক সাক্ষাৎকারে সিইও লিন্ডা ইয়াকারিনো বলেছেন যে কোম্পানি ভুল তথ্য মোকাবেলায় প্রতিশ্রুতিবদ্ধ এবং এআই দ্বারা সৃষ্ট চ্যালেঞ্জ মোকাবেলার জন্য সক্রিয়ভাবে নতুন উপায় অনুসন্ধান করছে। ইয়াকারিনো বলেন, "আমরা এই বিষয়টিকে খুব গুরুত্ব সহকারে দেখছি।" "আমরা আমাদের প্ল্যাটফর্ম থেকে ডিপফেক সনাক্ত এবং অপসারণের জন্য উন্নত প্রযুক্তি তৈরি এবং প্রয়োগ করার জন্য কাজ করছি।"

সরকারের হস্তক্ষেপ এআই এবং সমাজের উপর এর সম্ভাব্য প্রভাব সম্পর্কে ক্রমবর্ধমান নিয়ন্ত্রক যাচাই-বাছাইয়ের উপর আলোকপাত করে। বেশ কয়েকটি দেশ বর্তমানে এআই প্রযুক্তির বিকাশ এবং প্রয়োগকে নিয়ন্ত্রণ করার জন্য আইন বিবেচনা করছে, যেখানে ডিপফেক এবং অন্যান্য ধরণের এআই-জেনারেটেড ভুল তথ্যের সাথে সম্পর্কিত ঝুঁকি মোকাবেলার উপর বিশেষ মনোযোগ দেওয়া হচ্ছে। উদাহরণস্বরূপ, ইউরোপীয় ইউনিয়ন তার এআই আইন চূড়ান্ত করছে, যেখানে উচ্চ-ঝুঁকিপূর্ণ অ্যাপ্লিকেশনগুলিতে, যেমন মুখের স্বীকৃতি এবং কন্টেন্ট মডারেশনে এআই ব্যবহারের নিয়ন্ত্রণের বিধান রয়েছে।

পরবর্তী পদক্ষেপ সম্ভবত উত্থাপিত উদ্বেগগুলি মোকাবেলার জন্য একটি সুনির্দিষ্ট পরিকল্পনা তৈরি করতে সরকারি কর্মকর্তা এবং X প্রতিনিধিদের মধ্যে আরও আলোচনা জড়িত থাকবে। এই আলোচনার ফলাফল এআই নিয়ন্ত্রণের ভবিষ্যৎ এবং ভুল তথ্য মোকাবেলায় সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলির দায়িত্বের উপর উল্লেখযোগ্য প্রভাব ফেলতে পারে।