কর্মকর্তারা ইলন মাস্কের সামাজিক মাধ্যম প্ল্যাটফর্ম X-কে Grok দ্বারা তৈরি করা ডিপফেকগুলির বিস্তার নিয়ে ব্যবস্থা নিতে বলেছেন। প্ল্যাটফর্মটির কৃত্রিম বুদ্ধিমত্তা চ্যাটবট Grok এই ডিপফেকগুলি তৈরি করে, এবং এই পরিস্থিতিকে "ভয়াবহ" বলে অভিহিত করা হয়েছে। বুধবার এই দাবি জানানো হয়। ব্যবহারকারীদের থেকে আসা অসংখ্য অভিযোগের ভিত্তিতে এই পদক্ষেপ নেওয়া হয়েছে। অভিযোগগুলিতে Grok ব্যবহার করে বাস্তবসম্মত কিন্তু জাল ছবি এবং ভিডিও তৈরি ও ছড়ানোর কথা বলা হয়েছে, বিশেষ করে যেখানে বিশিষ্ট ব্যক্তিদের বিকৃত করা হয়েছে।

সরকারের উদ্বেগের কেন্দ্রবিন্দু হল এই ডিপফেকগুলির মাধ্যমে ভুল তথ্য ছড়ানো, জনমতকে প্রভাবিত করা এবং সম্মানহানি করার সম্ভাবনা। ডিপফেক, প্রযুক্তিগতভাবে সিনথেটিক মিডিয়া নামে পরিচিত, উন্নত মেশিন লার্নিং কৌশল ব্যবহার করে, বিশেষ করে ডিপ লার্নিং অ্যালগরিদম ব্যবহার করে চাক্ষুষ এবং শ্রাব্য বিষয়বস্তুকে বিশ্বাসযোগ্যভাবে পরিবর্তন বা জাল করে তোলে। Grok, একটি বৃহৎ ভাষা মডেল (LLM) দ্বারা চালিত, টেক্সট প্রম্পট থেকে ছবি এবং ভিডিও তৈরি করতে পারে, যা এটিকে ডিপফেক তৈরির জন্য সহজেই ব্যবহারযোগ্য একটি সরঞ্জাম করে তুলেছে।

নিয়ন্ত্রণকারী সংস্থার একজন মুখপাত্র বলেন, "Grok ব্যবহার করে এত সহজে এই ধরনের প্রতারণামূলক উপাদান তৈরি করা খুবই উদ্বেগজনক।" তিনি আরও বলেন, "X-এর দায়িত্ব হল তাদের AI সরঞ্জামগুলির অপব্যবহার রোধ করার জন্য সুরক্ষা ব্যবস্থা নেওয়া।" মুখপাত্র আরও জানান, X যদি এই সমস্যাটির যথাযথ সমাধান করতে ব্যর্থ হয়, তাহলে সরকার নিয়ন্ত্রণমূলক ব্যবস্থা নেওয়ার কথা বিবেচনা করছে।

X-এর প্রতিনিধিরা সরকারের উদ্বেগ স্বীকার করেছেন এবং জানিয়েছেন যে তারা সমস্যাটি কমাতে সক্রিয়ভাবে কাজ করছেন। X-এর যোগাযোগ দল থেকে প্রকাশিত এক বিবৃতিতে বলা হয়েছে, "আমরা Grok-এর দায়িত্বশীল ব্যবহার নিশ্চিত করতে প্রতিশ্রুতিবদ্ধ এবং আমাদের সনাক্তকরণ এবং প্রতিরোধ প্রক্রিয়াগুলিকে ক্রমাগত উন্নত করছি।" কোম্পানিটি বেশ কয়েকটি পদক্ষেপ নেওয়ার কথা জানিয়েছে, যার মধ্যে রয়েছে তাদের কন্টেন্ট নিরীক্ষণ নীতি উন্নত করা, তাদের ডিপফেক সনাক্তকরণ অ্যালগরিদম উন্নত করা এবং কঠোর ব্যবহারকারী যাচাইকরণ প্রোটোকল প্রয়োগ করা।

তবে বিশেষজ্ঞরা বলছেন যে ডিপফেক সনাক্তকরণ এবং অপসারণ একটি জটিল এবং চলমান চ্যালেঞ্জ। ডিপফেক তৈরি করার প্রযুক্তি ক্রমাগত বিকশিত হচ্ছে, যার ফলে সনাক্তকরণ অ্যালগরিদমের পক্ষে তাল মিলিয়ে চলা কঠিন হয়ে পড়ছে। উপরন্তু, X-এর মতো প্ল্যাটফর্মে তৈরি হওয়া বিপুল পরিমাণ কন্টেন্ট ম্যানুয়ালি পর্যালোচনা করাও কার্যত অসম্ভব।

ইনস্টিটিউট ফর টেকনোলজি অ্যান্ড সোসাইটির এআই এথিক্স গবেষক ডঃ অন্যা শর্মা ব্যাখ্যা করেছেন, "এটি একটি অস্ত্রের প্রতিযোগিতা। সনাক্তকরণ পদ্ধতির উন্নতির সাথে সাথে ডিপফেক তৈরির কৌশলও উন্নত হচ্ছে। এর জন্য প্রযুক্তিগত সমাধান, মিডিয়া সাক্ষরতা উদ্যোগ এবং স্পষ্ট আইনি কাঠামো সহ একটি বহুমাত্রিক পদ্ধতির প্রয়োজন।"

এই ঘটনাটি দ্রুত অগ্রসর হওয়া এআই প্রযুক্তির ব্যাপক সামাজিক প্রভাবের ওপর আলোকপাত করে। এআই অসংখ্য সুবিধা দিলেও, এটি ভুল তথ্য, গোপনীয়তা এবং নিরাপত্তা সম্পর্কিত নতুন চ্যালেঞ্জও তৈরি করে। X-এর ওপর সরকারের দাবি প্রযুক্তি কোম্পানিগুলোর ওপর এই চ্যালেঞ্জগুলো মোকাবিলা করার এবং এআই সরঞ্জামগুলোর দায়িত্বশীল উন্নয়ন ও ব্যবহার নিশ্চিত করার জন্য ক্রমবর্ধমান চাপের বিষয়টি তুলে ধরে।

সরকারের কর্মকর্তা এবং X-এর প্রতিনিধিদের মধ্যে আলোচনা চলমান থাকায় পরিস্থিতি এখনও পরিবর্তনশীল। X-এর প্রশমন প্রচেষ্টাগুলোর কার্যকারিতা নিবিড়ভাবে পর্যবেক্ষণ করা হবে এবং আরও নিয়ন্ত্রণমূলক পদক্ষেপ নেওয়ার সম্ভাবনা রয়েছে। এই ঘটনার ফলাফল ভবিষ্যতে সামাজিক মাধ্যম প্ল্যাটফর্মে এআই-চালিত কন্টেন্ট তৈরিকে সরকার কীভাবে নিয়ন্ত্রণ করবে, তার একটি নজির স্থাপন করতে পারে।