এখানে প্রদত্ত উৎস থেকে তথ্য সংশ্লেষণ করে একটি নিউজ নিবন্ধ দেওয়া হল:
সাম্প্রতিক প্রতিবেদনে এআই অগ্রগতি এবং নিরাপত্তা উদ্বেগ তুলে ধরা হয়েছে
সাম্প্রতিক প্রতিবেদনগুলোতে কৃত্রিম বুদ্ধিমত্তার অগ্রগতি, কোডিং এজেন্ট থেকে শুরু করে জটিল ডকুমেন্ট প্রক্রিয়াকরণে চ্যালেঞ্জ এবং উল্লেখযোগ্য নিরাপত্তা উদ্বেগগুলোর ওপর আলোকপাত করা হয়েছে। একাধিক সূত্র অনুসারে, এআই সরঞ্জামগুলোর দ্রুত বিকাশ ও ব্যবহার, বিশেষ করে এজেন্টিক এআই, বিদ্যমান সুরক্ষা মডেলগুলোতে দুর্বলতা প্রকাশ করেছে।
ফোকাসের একটি ক্ষেত্র হলো রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG) সিস্টেমগুলোর কার্যকারিতা। ভেঞ্চারবিটের মতে, অনেক প্রতিষ্ঠান পিডিএফ ইন্ডেক্স করে এবং সেগুলোকে বৃহৎ ভাষা মডেলের (LLM) সাথে যুক্ত করে কর্পোরেট জ্ঞানকে সহজলভ্য করার প্রতিশ্রুতি দিয়ে RAG সিস্টেম স্থাপন করেছে। তবে, এই সিস্টেমগুলো প্রায়শই ব্যর্থ হয়, বিশেষ করে ভারী ইঞ্জিনিয়ারিংয়ের উপর নির্ভরশীল শিল্পগুলোতে। ভেঞ্চারবিট জানিয়েছে, "ব্যর্থতা LLM-এর মধ্যে নয়। ব্যর্থতা প্রিপ্রসেসিংয়ের মধ্যে।" তারা উল্লেখ করেছে যে স্ট্যান্ডার্ড RAG পাইপলাইনগুলো ডকুমেন্টগুলোকে টেক্সটের ফ্ল্যাট স্ট্রিং হিসাবে বিবেচনা করে, ফিক্সড-সাইজ chunking ব্যবহার করে যা টেবিল কেটে এবং ছবি থেকে ক্যাপশন আলাদা করে প্রযুক্তিগত ম্যানুয়ালগুলোর যুক্তি নষ্ট করতে পারে।
এদিকে, এজেন্টিক এআই-এর উত্থান নতুন নিরাপত্তা ঝুঁকি তৈরি করেছে। ওপেনক্লাও (OpenClaw), একটি ওপেন-সোর্স এআই সহকারী, উল্লেখযোগ্য আকর্ষণ অর্জন করেছে, যা এর নির্মাতা পিটার স্টেইনবার্গারের মতে, ১৮০,০০০-এর বেশি গিটহাব স্টার এবং এক সপ্তাহে ২০ লক্ষ দর্শক আকর্ষণ করেছে, ভেঞ্চারবিট জানিয়েছে। তবে, নিরাপত্তা গবেষকরা ১,৮০০-এর বেশি উন্মুক্ত উদাহরণ খুঁজে পেয়েছেন যেখানে API কী, চ্যাট হিস্টরি এবং অ্যাকাউন্ট ক্রেডেনশিয়াল ফাঁস হয়েছে। ভেঞ্চারবিট উল্লেখ করেছে যে এই তৃণমূল স্তরের এজেন্টিক এআই আন্দোলন একটি উল্লেখযোগ্য, অব্যবস্থাপিত আক্রমণ ক্ষেত্র তৈরি করেছে যা অনেক সুরক্ষা সরঞ্জাম সনাক্ত করতে অক্ষম। প্রতিবেদনে জোর দেওয়া হয়েছে যে ঐতিহ্যবাহী সুরক্ষা পরিধি প্রায়শই এজেন্টিক এআই হুমকি দেখতে ব্যর্থ হয়, বিশেষ করে যখন এজেন্টরা BYOD হার্ডওয়্যারে চলে।
কোডিং এজেন্টগুলোর বিকাশও দ্রুত হচ্ছে, ডেভেলপাররা ন্যূনতম এবং মতামত-ভিত্তিক ডিজাইন তৈরি করছেন। একজন ডেভেলপার এই ধরনের একটি এজেন্ট তৈরির অভিজ্ঞতা বিস্তারিতভাবে জানিয়েছেন, যেখানে একাধিক মডেল, স্ট্রাকচার্ড স্প্লিট টুল রেজাল্ট এবং একটি ন্যূনতম সিস্টেম প্রম্পটের ব্যবহারের ওপর আলোকপাত করা হয়েছে। ডেভেলপার "বিল্ট-ইন টু-ডুস নেই", "প্ল্যান মোড নেই" এবং "এমসিপি সমর্থন নেই" এর মতো ডিজাইন পছন্দের কথা উল্লেখ করেছেন, যা সরলতা এবং সরাসরিতার উপর মনোযোগ প্রতিফলিত করে।
Discussion
AI Experts & Community
Be the first to comment