এআই-এর সত্য সংকট: ডিইআই, আরএজি এবং সিস্টেম ডিজাইন নিয়ে উদ্যোগগুলো হিমশিম খাচ্ছে

এইচএইচএস অনুদানগুলিতে ডিইআই (DEI) লক্ষ্য করতে Palantir AI সরঞ্জাম ব্যবহার করেছে, নথিপত্রে দেখা গেছে

স্বাস্থ্য ও মানব পরিষেবা বিভাগ (এইচএইচএস) প্যালানটির টেকনোলজিসের কৃত্রিম বুদ্ধিমত্তা সরঞ্জাম ব্যবহার করে অনুদান, অনুদানের আবেদনপত্র এবং চাকরির বিবরণীতে প্রাক্তন রাষ্ট্রপতি ডোনাল্ড ট্রাম্পের বৈচিত্র্য, সাম্যতা এবং অন্তর্ভুক্তি (ডিইআই) উদ্যোগ এবং লিঙ্গ মতাদর্শকে লক্ষ্য করে জারি করা নির্বাহী আদেশগুলির সাথে সঙ্গতি আছে কিনা, তা পরীক্ষা করত। এইচএইচএস-এর ২০২৫ সালের এআই ব্যবহারের একটি সম্প্রতি প্রকাশিত তালিকা থেকে এই তথ্য জানা গেছে। প্যালানটির বা এইচএইচএস কেউই এই উদ্দেশ্যে প্যালানটির-এর সফ্টওয়্যার ব্যবহারের কথা প্রকাশ্যে ঘোষণা করেনি।

তালিকায় প্রকাশ, এইচএইচএস মার্চ ২০২৫ সাল থেকে এই এআই সরঞ্জামগুলি ব্যবহার করছে। ওয়্যার্ডের মতে, ট্রাম্পের দ্বিতীয় মেয়াদের প্রথম বছরে, প্যালানটির শুধুমাত্র এইচএইচএস থেকেই ৩.৫ কোটি ডলারের বেশি অর্থ এবং বাধ্যবাধকতা পেয়েছে। তবে, এই লেনদেনগুলির বর্ণনায় ডিইআই বা লিঙ্গ মতাদর্শকে লক্ষ্য করে করা কাজের উল্লেখ ছিল না।

এআই বাস্তবায়নের বিষয়ে অন্যান্য খবরে জানা যায়, ভেনচারবিটের মতে, এন্টারপ্রাইজগুলি বৃহৎ ভাষা মডেলগুলিকে (এলএলএম) নিজস্ব ডেটার ভিত্তিতে তৈরি করতে রিট্রিভাল-অগমেন্টেড জেনারেশন (আরএজি) গ্রহণের সময় রিট্রিভালকে একটি মৌলিক সিস্টেম নির্ভরতা হিসাবে ক্রমবর্ধমানভাবে স্বীকৃতি দিচ্ছে। রিট্রিভালে ব্যর্থতা সরাসরি ব্যবসায়িক ঝুঁকির কারণ হতে পারে, যা বিশ্বাস, সম্মতি এবং কর্মক্ষম নির্ভরযোগ্যতাকে দুর্বল করে। ভেনচারবিট জানিয়েছে, "পুরানো প্রেক্ষাপট, অনিয়ন্ত্রিত অ্যাক্সেস পাথ এবং দুর্বলভাবে মূল্যায়ন করা রিট্রিভাল পাইপলাইনগুলি কেবল উত্তরের গুণমানকেই কম করে না; এগুলি বিশ্বাস, সম্মতি এবং কর্মক্ষম নির্ভরযোগ্যতাকেও দুর্বল করে।"

এদিকে, এমআইটি টেকনোলজি রিভিউ জানিয়েছে, মার্কিন হোমল্যান্ড সিকিউরিটি বিভাগ জনসাধারণের ব্যবহারের জন্য গুগল এবং অ্যাডোবের এআই ভিডিও জেনারেটর ব্যবহার করছে। এই খবরে এআই-উত্পাদিত সামগ্রী সমাজের বিশ্বাসকে দুর্বল করতে পারে বলে উদ্বেগ সৃষ্টি হয়েছে।

সফল এন্টারপ্রাইজ এআই সিস্টেম নিশ্চিত করতে, মিস্ট্রাল এআই এআই রূপান্তরের ভিত্তি হিসাবে একটি "আইকনিক ব্যবহারের ক্ষেত্র" চিহ্নিত করার সুপারিশ করেছে। এই পদ্ধতিতে নির্দিষ্ট চ্যালেঞ্জ মোকাবেলা করতে এবং পরিমাপযোগ্য ফলাফল অর্জনের জন্য শিল্প নেতাদের সাথে তৈরি করা উপযুক্ত এআই সমাধানগুলির সহ-নকশা জড়িত।

আসানা-র সিপিও অর্ণব বোস একটি এন্টারপ্রাইজের মধ্যে সফল এআই এজেন্টদের জন্য শেয়ার্ড মেমরি এবং প্রেক্ষাপটের ওপর জোর দিয়েছেন। সান ফ্রান্সিসকোতে ভেনচারবিটের একটি অনুষ্ঠানে বোস বলেন, "আপনি যখন কোনও কাজ দেন, তখন আপনার ব্যবসার কাজকর্ম সম্পর্কে সমস্ত প্রেক্ষাপট পুনরায় সরবরাহ করতে হয় না।" আসানা গত বছর আসানা এআই টিমমেটস চালু করেছে, যার লক্ষ্য একটি সহযোগী সিস্টেম তৈরি করা, যেখানে এআই এজেন্টরা সরাসরি দল এবং প্রকল্পগুলির সাথে একত্রিত হবে।