সরকারের কর্মকর্তারা ইলন মাস্কের সামাজিক মাধ্যম প্ল্যাটফর্ম X-কে গ্রোক (Grok) দ্বারা তৈরি "ভয়ংকর" ডিপফেক (deepfakes)-এর বিস্তার নিয়ে ব্যবস্থা নেওয়ার জন্য চাপ দিচ্ছেন। গ্রোক হল প্ল্যাটফর্মটির কৃত্রিম বুদ্ধিমত্তা চ্যাটবট। উদ্বেগের কেন্দ্রবিন্দু হল এই এআই (AI) দ্বারা তৈরি ভিডিও এবং ছবিগুলি ভুল তথ্য ছড়াতে এবং সম্মানহানি ঘটাতে পারে।

সরকারের পক্ষ থেকে বুধবার X-কে গ্রোক ব্যবহার করে ডিপফেক তৈরি এবং ছড়ানো বন্ধ করতে কঠোর পদক্ষেপ নেওয়ার কথা বলা হয়েছে। কর্মকর্তারা বিশেষভাবে উল্লেখ করেছেন যে গ্রোক ব্যবহার করে জনFiguresদের মিথ্যা বক্তব্য সম্বলিত বাস্তবসম্মত কিন্তু জাল ভিডিও তৈরি করা হয়েছে। তাদের মতে, এই ডিপফেকগুলি জনসম্মুখে আলোচনারIntegrity-র জন্য একটি বড় হুমকি এবং এটি নির্বাচনকে প্রভাবিত করতে বা সহিংসতা উস্কে দিতে ব্যবহার করা যেতে পারে।

ফেডারেল ট্রেড কমিশন (FTC)-এর একজন মুখপাত্র এক বিবৃতিতে বলেছেন, "প্রযুক্তি এমন এক পর্যায়ে পৌঁছেছে যেখানে একজন সাধারণ মানুষের পক্ষে আসল এবং নকল বিষয়বস্তুর মধ্যে পার্থক্য করা ক্রমশ কঠিন হয়ে পড়ছে।" "X-এর দায়িত্ব হল এটি নিশ্চিত করা যে তাদের এআই সরঞ্জামগুলি জনসাধারণকে প্রতারিত এবং বিভ্রান্ত করতে ব্যবহৃত না হয়।"

মাস্কের এআই কোম্পানি xAI ২০২৩ সালের নভেম্বরে গ্রোক চালু করে। এটি একটি বৃহৎ ভাষা মডেল (LLM), যা X থেকে রিয়েল-টাইম ডেটা নিয়ে একটি হাস্যরসপূর্ণ এবং বিদ্রোহী ভঙ্গিতে প্রশ্নের উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে। এটি বর্তমানে X Premium+ গ্রাহকদের জন্য উপলব্ধ। এই এআই একটি নিজস্ব আর্কিটেকচারের উপর নির্মিত এবং টেক্সট এবং কোডের একটি বিশাল ডেটাসেটের উপর প্রশিক্ষিত, যা এটিকে টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে, বিভিন্ন ধরণের সৃজনশীল বিষয়বস্তু লিখতে এবং তথ্যপূর্ণ উপায়ে প্রশ্নের উত্তর দিতে সক্ষম করে। তবে, X থেকে রিয়েল-টাইম তথ্য অ্যাক্সেস এবং প্রক্রিয়া করার ক্ষমতা, এর উৎপাদনশীল ক্ষমতার সাথে মিলিত হয়ে এর অপব্যবহারের সম্ভাবনা সম্পর্কে উদ্বেগ সৃষ্টি করেছে।

এই সমস্যাটি সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলিতে এআই-উত্পাদিত বিষয়বস্তু নিয়ন্ত্রণের ক্রমবর্ধমান চ্যালেঞ্জকে তুলে ধরে। অত্যাধুনিক মেশিন লার্নিং কৌশল ব্যবহার করে তৈরি করা ডিপফেকগুলি একজন ব্যক্তির চেহারা এবং কণ্ঠকে বিশ্বাসযোগ্যভাবে নকল করতে পারে, যার ফলে তাদের জাল প্রকৃতি সনাক্ত করা কঠিন হয়ে পড়ে। শিল্পটি এআই উদ্ভাবনের সুবিধা এবং এর সম্ভাব্য ক্ষতি থেকে সুরক্ষার প্রয়োজনের মধ্যে ভারসাম্য রক্ষার জন্য সংগ্রাম করছে।

X-এর একজন প্রতিনিধি ইমেলের মাধ্যমে জানিয়েছেন, "আমরা ডিপফেকগুলির সনাক্তকরণ এবং প্রতিরোধের প্রক্রিয়াগুলির উন্নতির জন্য সক্রিয়ভাবে কাজ করছি।" "আমরা এটি নিশ্চিত করতে প্রতিশ্রুতিবদ্ধ যে X আমাদের ব্যবহারকারীদের জন্য একটি নিরাপদ এবং নির্ভরযোগ্য প্ল্যাটফর্ম থাকবে।" কোম্পানিটি জানিয়েছে যে তারা এআই-উত্পাদিত বিষয়বস্তুকে ওয়াটারমার্ক করা এবং কঠোর বিষয়বস্তু নিরীক্ষণ নীতি বাস্তবায়ন সহ বিভিন্ন প্রযুক্তিগত সমাধান অন্বেষণ করছে।

বিশেষজ্ঞরা বলছেন যে কার্যকর ডিপফেক সনাক্তকরণের জন্য একটি বহু-মুখী পদ্ধতির প্রয়োজন, যার মধ্যে উন্নত এআই অ্যালগরিদম অন্তর্ভুক্ত রয়েছে যা ভিডিও এবং অডিও বিশ্লেষণ করে কারসাজির লক্ষণ খুঁজে বের করতে পারে, সেইসাথে চিহ্নিত বিষয়বস্তু পর্যালোচনা করার জন্য মানুষের তদারকিও প্রয়োজন। দ্রুত বিকশিত প্রযুক্তির থেকে এগিয়ে থাকাই হল চ্যালেঞ্জ, কারণ ডিপফেক কৌশলগুলি ক্রমশ অত্যাধুনিক হয়ে উঠছে।

সরকারের দাবি X-এর উপর এই সমস্যা সমাধানের জন্য দৃঢ় পদক্ষেপ নেওয়ার জন্য চাপ সৃষ্টি করেছে। তা করতে ব্যর্থ হলে নিয়ন্ত্রক নজরদারি এবং সম্ভাব্য আইনি পদক্ষেপের কারণ হতে পারে। ফেডারেল ট্রেড কমিশনের (FTC) কাছে প্রতারণামূলক বা অন্যায্য কাজে জড়িত সংস্থাগুলির বিরুদ্ধে তদন্ত এবং মামলা করার ক্ষমতা আছে, যার মধ্যে ভুল তথ্য ছড়ানোও অন্তর্ভুক্ত। পরিস্থিতি বর্তমানে চলমান, এবং X সরকারের উদ্বেগের প্রতিক্রিয়া জানালে এবং নতুন সুরক্ষাব্যবস্থা বাস্তবায়ন করলে আরও উন্নয়নের সম্ভাবনা রয়েছে।