এখানে প্রদত্ত উৎস থেকে তথ্য সংশ্লেষণ করে একটি সংবাদ নিবন্ধ দেওয়া হল:
আরএজি সিস্টেমের সীমাবদ্ধতা প্রকাশ হওয়ার সাথে সাথে এজেন্টিক এআই নিরাপত্তা ঝুঁকি বাড়ছে
রিট্রিভাল-অগমেন্টেড জেনারেশন (আরএজি) সিস্টেম দ্রুত গ্রহণ করার ফলে জটিল ডকুমেন্টগুলি পরিচালনা করার ক্ষেত্রে নিরাপত্তা দুর্বলতা এবং সীমাবদ্ধতা উভয়ই প্রকাশ পাচ্ছে, সাম্প্রতিক প্রতিবেদন অনুসারে। যদিও আরএজি ডকুমেন্ট ইন্ডেক্স করে এবং লার্জ ল্যাঙ্গুয়েজ মডেলের (এলএলএম) সাথে সংযোগ স্থাপন করে কর্পোরেট জ্ঞানকে গণতান্ত্রিক করার প্রতিশ্রুতি দেয়, নিরাপত্তা গবেষকরা এজেন্টিক এআই-এর সাথে সম্পর্কিত উল্লেখযোগ্য ঝুঁকি আবিষ্কার করেছেন এবং ডেভেলপাররা দেখছেন যে স্ট্যান্ডার্ড আরএজি পাইপলাইনগুলি অত্যাধুনিক ডকুমেন্টগুলির সাথে মোকাবিলা করতে সমস্যায় পড়ছে।
ওপেন ক্ল (OpenClaw), একটি ওপেন সোর্স এআই সহকারী, যা পূর্বে ক্লবট (Clawdbot) এবং মোল্টবট (Moltbot) নামে পরিচিত ছিল, এর নির্মাতা পিটার স্টেইনবার্গারের মতে, ১৮০,০০০ গিটহাব (GitHub) স্টার পেয়েছে এবং এক সপ্তাহে ২০ লক্ষ দর্শক আকর্ষণ করেছে। তবে, এই জনপ্রিয়তা নিরাপত্তা ত্রুটিগুলি উন্মোচন করেছে। নিরাপত্তা গবেষকরা ১,৮০০-এর বেশি উদাহরণ খুঁজে পেয়েছেন যেখানে এপিআই কী (API key), চ্যাট হিস্টরি (chat history) এবং অ্যাকাউন্ট ক্রেডেনশিয়াল (account credential) ফাঁস হয়েছে। ভেঞ্চারবিটের (VentureBeat) মতে, এটি তুলে ধরে যে কিভাবে তৃণমূল স্তরের এজেন্টিক এআই আন্দোলন এমন অব্যবস্থাপিত আক্রমণের ক্ষেত্র তৈরি করতে পারে যা ঐতিহ্যবাহী নিরাপত্তা সরঞ্জামগুলি প্রায়শই ধরতে পারে না। যখন এজেন্টরা আপনার নিজের ডিভাইস (Bring Your Own Device) (বিওয়াইওডি) হার্ডওয়্যারে কাজ করে, তখন এন্টারপ্রাইজ সুরক্ষা স্ট্যাকগুলি সম্ভাব্য হুমকির বিষয়ে অন্ধ হয়ে যেতে পারে।
নিরাপত্তা উদ্বেগ ছাড়াও, আরএজি সিস্টেমের কার্যকারিতা নিয়ে প্রশ্ন উঠছে, বিশেষ করে জটিল ডকুমেন্টেশনের উপর নির্ভরশীল শিল্পগুলিতে। ভেঞ্চারবিটের একটি প্রতিবেদন অনুসারে, স্ট্যান্ডার্ড আরএজি পাইপলাইনগুলি প্রায়শই ডকুমেন্টগুলিকে টেক্সটের ফ্ল্যাট স্ট্রিং হিসাবে বিবেচনা করে, ফিক্সড-সাইজ chunking পদ্ধতি ব্যবহার করে যা প্রযুক্তিগত ম্যানুয়ালগুলির যুক্তিকে ব্যাহত করতে পারে। এই পদ্ধতি টেবিলগুলিকে কেটে ফেলতে পারে, ছবি থেকে ক্যাপশন আলাদা করে দিতে পারে এবং একটি পৃষ্ঠার ভিজ্যুয়াল হায়ারার্কি (visual hierarchy) উপেক্ষা করতে পারে, যার ফলে প্রকৌশলীরা নির্দিষ্ট প্রশ্ন জিজ্ঞাসা করলে ভুল ফলাফল আসতে পারে। ভেঞ্চারবিট জানিয়েছে, "ব্যর্থতা এলএলএম-এ নয়। ব্যর্থতা প্রিপ্রসেসিংয়ে (preprocessing)।"
স্ট্যান্ডার্ড আরএজি-এর সীমাবদ্ধতাগুলি মোকাবিলা করার জন্য, পেজইনডেক্স (PageIndex) নামে একটি নতুন ওপেন সোর্স ফ্রেমওয়ার্ক আত্মপ্রকাশ করেছে। ভেঞ্চারবিটের মতে, পেজইনডেক্স ঐতিহ্যবাহী "chunk-and-embed" পদ্ধতি পরিত্যাগ করে এবং ডকুমেন্ট পুনরুদ্ধারকে একটি অনুসন্ধান সমস্যা হিসাবে না দেখে একটি নেভিগেশন সমস্যা হিসাবে দেখে। এই ফ্রেমওয়ার্কটি সেই ডকুমেন্টগুলিতে ৯৮.৭% নির্ভুলতার হার অর্জন করেছে যেখানে ভেক্টর অনুসন্ধান সাধারণত ব্যর্থ হয়। যেহেতু এন্টারপ্রাইজগুলি আর্থিক বিবরণী নিরীক্ষণ এবং আইনি চুক্তি বিশ্লেষণের মতো উচ্চ-ঝুঁকির কর্মপ্রবাহে আরএজি সংহত করার চেষ্টা করছে, তাই তারা নির্ভুলতার এমন বাধার সম্মুখীন হচ্ছে যা শুধুমাত্র chunk অপটিমাইজেশন (chunk optimization) দ্বারা অতিক্রম করা যায় না।
Discussion
AI Experts & Community
Be the first to comment