গবেষকরা কৃত্রিম বুদ্ধিমত্তার সুরক্ষার দুর্বলতা প্রদর্শন করেছেন, অক্টোবর ২০২৫-এ প্রকাশিত একটি গবেষণা অনুসারে, তারা পরীক্ষিত প্রতিটি সিস্টেমে সফলভাবে অনুপ্রবেশ করেছেন। "দ্য অ্যাটাকার মুভস সেকেন্ড: স্ট্রংগার অ্যাডাপ্টিভ অ্যাটাকস বাইপাস ডিফেন্সেস অ্যাগেইনস্ট এলএলএম জেলব্রেকস অ্যান্ড প্রম্পট ইনজেকশনস" শীর্ষক গবেষণাপত্রে দেখা গেছে যে ১২টি এআই সুরক্ষা ব্যবস্থা, যাদের মধ্যে অনেকেরই প্রায় শূন্য সাফল্যের হারের দাবি ছিল, সেগুলোকে বেশিরভাগ ক্ষেত্রে ৯০% এর বেশি সাফল্যের হারে বাইপাস করা হয়েছে। ওপেনএআই, অ্যানথ্রোপিক এবং গুগল ডিপমাইন্ডের একটি দল এই গবেষণাটি পরিচালনা করেছে।

এই ফলাফলগুলি বর্তমানে সংস্থাগুলি কর্তৃক ব্যবহৃত এআই সুরক্ষা পণ্যগুলির কার্যকারিতা সম্পর্কে গুরুতর উদ্বেগ সৃষ্টি করেছে। লুই কলম্বাস ২৬ জানুয়ারী, ২০২৬ তারিখে রিপোর্ট করেছেন যে এই পণ্যগুলির অনেকগুলিকেই এমন আক্রমণকারীদের বিরুদ্ধে পরীক্ষা করা হয় যা বাস্তব-বিশ্বের হুমকির সঠিকভাবে প্রতিনিধিত্ব করে না।

গবেষণা দলটি অভিযোজিত আক্রমণের পরিস্থিতিতে প্রম্পটিং-ভিত্তিক, প্রশিক্ষণ-ভিত্তিক এবং ফিল্টারিং-ভিত্তিক সুরক্ষা ব্যবস্থা মূল্যায়ন করেছে। প্রম্পটিং সুরক্ষা, যা ক্ষতিকারক প্রম্পটগুলিকে এআই মডেলগুলিকে ম্যানিপুলেট করা থেকে আটকাতে ডিজাইন করা হয়েছে, সেখানে ৯৫% থেকে ৯৯% এর মধ্যে আক্রমণের সাফল্যের হার দেখা গেছে। প্রশিক্ষণ-ভিত্তিক পদ্ধতি, যার লক্ষ্য নির্দিষ্ট প্রশিক্ষণ ডেটার মাধ্যমে এআই মডেলগুলিকে আক্রমণ থেকে শক্তিশালী করা, সেগুলিও একইভাবে খারাপ ফল করেছে, যেখানে বাইপাসের হার ৯৬% থেকে ১০০% পর্যন্ত ছিল।

এআই সুরক্ষা সিস্টেমগুলির করা দাবিগুলি যাচাই করার জন্য গবেষকরা একটি কঠোর পদ্ধতি ব্যবহার করেছেন। এর মধ্যে ১৪ জন লেখকের একটি দল এবং সফল আক্রমণকে উৎসাহিত করার জন্য ২০,০০০ ডলারের একটি পুরস্কার তহবিল অন্তর্ভুক্ত ছিল। গবেষণাটি চারটি বিভাগে সুরক্ষা পরীক্ষা করেছে, যার সবকটিতেই প্রাথমিকভাবে প্রায় শূন্য আক্রমণের সাফল্যের হারের দাবি করা হয়েছিল।

এই গবেষণার তাৎপর্য তাৎক্ষণিক সুরক্ষা উদ্বেগের বাইরেও বিস্তৃত। ফিনান্স থেকে শুরু করে স্বাস্থ্যসেবা পর্যন্ত বিভিন্ন খাতে এআই-এর ব্যাপক ব্যবহারের জন্য শক্তিশালী সুরক্ষা ব্যবস্থার প্রয়োজন। বর্তমান এআই সুরক্ষা ব্যবস্থার দুর্বলতা এআই সুরক্ষার জন্য আরও সক্রিয় এবং অভিযোজিত পদ্ধতির প্রয়োজনীয়তার ওপর জোর দেয়।

এই ফলাফলগুলির পরিপ্রেক্ষিতে, এআই সুরক্ষা সমাধান সংগ্রহকারী সংস্থাগুলির তাদের পরীক্ষার পদ্ধতি এবং অভিযোজিত আক্রমণের স্থিতিস্থাপকতা সম্পর্কে বিক্রেতাদের কাছে গুরুত্বপূর্ণ প্রশ্ন জিজ্ঞাসা করা উচিত। এই প্রশ্নগুলির মধ্যে অন্তর্ভুক্ত থাকা উচিত:

1. সিস্টেমটি পরীক্ষা করার জন্য কী ধরনের অভিযোজিত আক্রমণ ব্যবহার করা হয়েছে?
2. অভিযোজিত আক্রমণের পরিস্থিতিতে আক্রমণের সাফল্যের হারের নথিভুক্ত প্রমাণ কী?
3. কত ঘন ঘন নতুন আক্রমণের বিরুদ্ধে সিস্টেমটিকে পুনরায় মূল্যায়ন করা হয়?
4. বাস্তব-বিশ্বের আক্রমণকারীর আচরণ অনুকরণ করতে কী পদ্ধতি ব্যবহার করা হয়?
5. সিস্টেমটি প্রম্পট ইনজেকশন এবং জেলব্রেকিংয়ের প্রচেষ্টাগুলি কীভাবে পরিচালনা করে?
6. নতুন আবিষ্কৃত দুর্বলতার প্রতিক্রিয়ায় সিস্টেম আপডেট করার প্রক্রিয়াটি কী?
7. বিক্রেতা সিস্টেমের সুরক্ষা দাবির স্বাধীন যাচাইকরণ প্রদান করতে পারবে কি?

গবেষণাটি ক্রমবর্ধমান এআই হুমকির মুখে ক্রমাগত পর্যবেক্ষণ এবং অভিযোজনের গুরুত্বের ওপর জোর দেয়। এআই প্রযুক্তি যত উন্নত হচ্ছে, ক্ষতিকারক অভিনেতাদের বিরুদ্ধে প্রতিরোধের কৌশলও তত উন্নত করতে হবে। এই ফলাফলগুলি আরও শক্তিশালী এবং স্থিতিস্থাপক এআই সুরক্ষা সমাধান বিকাশের জন্য এআই ডেভেলপার, সুরক্ষা গবেষক এবং সংস্থাগুলির মধ্যে বৃহত্তর সহযোগিতার প্রয়োজনীয়তার ইঙ্গিত দেয়।