গবেষকরা ২০২৫ সালের অক্টোবরে দেখিয়েছেন যে বেশিরভাগ এআই সুরক্ষা ব্যবস্থা সহজেই ভেঙে দেওয়া যায়, যা বর্তমান এআই সুরক্ষা পণ্যগুলির কার্যকারিতা সম্পর্কে গুরুতর উদ্বেগ সৃষ্টি করেছে। OpenAI, Anthropic, এবং Google DeepMind-এর একটি দল "The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections" শিরোনামে একটি গবেষণাপত্র প্রকাশ করেছে, যেখানে তারা বিস্তারিতভাবে জানিয়েছে যে তারা কীভাবে ১২টি প্রকাশিত এআই সুরক্ষা ব্যবস্থাকে সফলভাবে পরাস্ত করেছে, যার মধ্যে অনেকগুলো প্রায় শূন্য সাফল্যের হারের দাবি করেছিল। এই গবেষণা মোতায়েন করা সুরক্ষা ব্যবস্থা এবং সম্ভাব্য আক্রমণগুলির পরিশীলিততার মধ্যে একটি গুরুত্বপূর্ণ ব্যবধান তুলে ধরে।

গবেষণায় দেখা গেছে যে গবেষণা দল পরীক্ষিত বেশিরভাগ সুরক্ষাব্যবস্থায় ৯০% এর বেশি বাইপাস হার অর্জন করেছে। এটি ইঙ্গিত করে যে অনেক এআই সুরক্ষা পণ্য বাস্তবসম্মত আক্রমণকারীর আচরণের বিরুদ্ধে পর্যাপ্তভাবে পরীক্ষিত হচ্ছে না। দলটি অভিযোজিত আক্রমণের পরিস্থিতিতে প্রম্পটিং-ভিত্তিক, প্রশিক্ষণ-ভিত্তিক এবং ফিল্টারিং-ভিত্তিক সুরক্ষা ব্যবস্থা মূল্যায়ন করেছে এবং দেখেছে যে এর সবগুলোই দুর্বল। উদাহরণস্বরূপ, প্রম্পটিং সুরক্ষা ব্যবস্থা অভিযোজিত আক্রমণের অধীনে ৯৫% থেকে ৯৯% পর্যন্ত সাফল্যের হার অনুভব করেছে। প্রশিক্ষণ-ভিত্তিক পদ্ধতিগুলোও একইভাবে খারাপ ফল করেছে, যেখানে বাইপাস হার ৯৬% থেকে ১০০% এ পৌঁছেছে।

সুরক্ষা ব্যবস্থাগুলো কঠোরভাবে পরীক্ষা করার জন্য, গবেষকরা একটি বিস্তৃত পদ্ধতি ডিজাইন করেছেন যাতে ১৪ জন লেখক এবং সফল আক্রমণের জন্য $২০,০০০ ডলারের পুরস্কারের ব্যবস্থা ছিল। এই পদ্ধতির লক্ষ্য ছিল বাস্তব বিশ্বের প্রতিকূল পরিস্থিতি অনুকরণ করা এবং কার্যকর বাইপাস কৌশলগুলির বিকাশকে উৎসাহিত করা। গবেষকরা ধারাবাহিকভাবে সুরক্ষা ব্যবস্থাগুলোকে পরাস্ত করতে সক্ষম হয়েছিলেন, যা তাদের প্রায় শূন্য সাফল্যের হারের দাবি সত্ত্বেও সমস্যার তীব্রতা তুলে ধরে।

লুই কলম্বাস ২০২৬ সালের জানুয়ারিতে লিখেছেন, উদ্যোগগুলোর জন্য এর প্রভাবের ওপর জোর দিয়েছেন, তিনি বলেন যে অনেক এআই সুরক্ষা পণ্য এমন আক্রমণকারীদের বিরুদ্ধে পরীক্ষা করা হচ্ছে যারা বাস্তব আক্রমণকারীদের মতো আচরণ করে না। এটি নিরাপত্তা দলগুলোর যথাযথ প্রক্রিয়া এবং বিক্রেতাদের দাবির যথার্থতা সম্পর্কে প্রশ্ন তোলে।

এই ফলাফলগুলো এআই সুরক্ষা পরীক্ষার জন্য আরও শক্তিশালী এবং প্রতিকূল পদ্ধতির আহ্বান জানিয়েছে। বিশেষজ্ঞরা সুপারিশ করেন যে সংস্থাগুলো যেন তাদের পরীক্ষার পদ্ধতি সম্পর্কে বিক্রেতাদের কাছে গুরুত্বপূর্ণ প্রশ্ন জিজ্ঞাসা করে, যার মধ্যে অভিযোজিত আক্রমণ এবং রেড টিমিং অনুশীলন অন্তর্ভুক্ত রয়েছে কিনা। গবেষণাটি এআই সুরক্ষা ব্যবস্থাগুলোর ক্রমাগত পর্যবেক্ষণ এবং অভিযোজনের প্রয়োজনীয়তার ওপরও জোর দেয়, কারণ আক্রমণকারীরা ক্রমাগত তাদের কৌশল বিকাশ করে। এআই প্রযুক্তির দ্রুত অগ্রগতি সুরক্ষার জন্য একটি সক্রিয় এবং গতিশীল পদ্ধতির প্রয়োজনীয়তা তৈরি করেছে, যা স্থিতিশীল সুরক্ষার ওপর নির্ভর না করে সহজেই ভেঙে ফেলা যায়।