মাইক্রোসফ্ট তাদের কপাইলট এআই সহকারীর একটি নিরাপত্তা ত্রুটি সমাধান করেছে, যার মাধ্যমে আক্রমণকারীরা আপাতদৃষ্টিতে নিরীহ একটি লিঙ্কে ক্লিক করার মাধ্যমে সংবেদনশীল ব্যবহারকারীর ডেটা বের করতে পারত। ভ্যারোনিসের নিরাপত্তা গবেষকরা এই ত্রুটিটি আবিষ্কার করেন এবং একটি বহু-পর্যায়ের আক্রমণ কীভাবে একজন ব্যবহারকারীর নাম, অবস্থান এবং তাদের কপাইলট চ্যাট ইতিহাসের বিবরণ-এর মতো তথ্য চুরি করতে পারে, তা প্রদর্শন করেন।

ব্যবহারকারী লিঙ্কটিতে ক্লিক করার মাধ্যমে একবার আক্রমণ শুরু হলে, কপাইলট চ্যাট উইন্ডো বন্ধ হয়ে যাওয়ার পরেও এটি চলতে থাকে, যার জন্য আর কোনও interaction-এর প্রয়োজন হয় না। ভ্যারোনিসের মতে, এই exploit সাধারণত endpoint protection অ্যাপ্লিকেশন দ্বারা ব্যবহৃত এন্টারপ্রাইজ endpoint নিরাপত্তা নিয়ন্ত্রণ এবং সনাক্তকরণ প্রক্রিয়াকে bypass করে। আর্স টেকনিকাকে দেওয়া এক বিবৃতিতে ভ্যারোনিসের নিরাপত্তা গবেষক ডোলেভ টেলার বলেন, "একবার আমরা এই ক্ষতিকারক prompt সহ লিঙ্কটি সরবরাহ করলে, ব্যবহারকারীকে কেবল লিঙ্কটিতে ক্লিক করতে হবে এবং ক্ষতিকারক কাজটি অবিলম্বে কার্যকর করা হবে।" "এমনকি যদি ব্যবহারকারী কেবল লিঙ্কটিতে ক্লিক করে এবং কপাইলট চ্যাটের ট্যাবটি সাথে সাথে বন্ধ করে দেয়, তবুও exploit টি কাজ করবে।"

এই দুর্বলতা কপাইলটের মতো বৃহৎ ভাষা মডেলগুলির (LLM) সাথে সম্পর্কিত অন্তর্নিহিত ঝুঁকিগুলিকে তুলে ধরে, যা ক্রমবর্ধমানভাবে দৈনন্দিন অ্যাপ্লিকেশনগুলিতে একত্রিত হচ্ছে। LLM বিশাল ডেটাসেট থেকে শেখে এবং মানুষের মতো টেক্সট তৈরি করতে পারে, তবে তাদের জটিলতা তাদের অপ্রত্যাশিত নিরাপত্তা ত্রুটির জন্য সংবেদনশীল করে তোলে। এই ঘটনাটি এআই-চালিত প্ল্যাটফর্মগুলির মধ্যে ব্যবহারকারীর ডেটা সুরক্ষার জন্য শক্তিশালী নিরাপত্তা ব্যবস্থা এবং ক্রমাগত পর্যবেক্ষণের গুরুত্বের উপর জোর দেয়।

আক্রমণ ভেক্টরটি কপাইলট কীভাবে লিঙ্কের মধ্যে এম্বেড করা নির্দেশাবলী প্রক্রিয়া করে এবং কার্যকর করে তার একটি দুর্বলতাকে কাজে লাগিয়েছে। একটি বৈধ কপাইলট URL-এর মধ্যে এম্বেড করা একটি ক্ষতিকারক prompt তৈরি করে, গবেষকরা এমন একটি ঘটনার সূত্রপাত করতে সক্ষম হয়েছিলেন যা ডেটা exfiltration-এর দিকে পরিচালিত করে। এই ধরণের আক্রমণ, যা prompt injection আক্রমণ হিসাবে পরিচিত, এআই সুরক্ষার ক্ষেত্রে একটি ক্রমবর্ধমান উদ্বেগের বিষয়। Prompt injection ঘটে যখন একজন আক্রমণকারী একটি এআই মডেলের ইনপুটকে এমনভাবে manipulate করে যাতে এটি অপ্রত্যাশিত কাজ করে, যেমন সংবেদনশীল তথ্য প্রকাশ করা বা ক্ষতিকারক কোড কার্যকর করা।

এই দুর্বলতার প্রভাব স্বতন্ত্র ব্যবহারকারীদের ছাড়িয়ে আরও বিস্তৃত। এন্টারপ্রাইজ পরিবেশে, যেখানে সংবেদনশীল ব্যবসার ডেটা অ্যাক্সেস এবং প্রক্রিয়া করার জন্য কপাইলট ব্যবহৃত হয়, সেখানে একটি সফল আক্রমণ উল্লেখযোগ্য ডেটা লঙ্ঘন এবং আর্থিক ক্ষতির কারণ হতে পারে। এই ঘটনাটি এআই-চালিত সহকারীদের নিরাপত্তা এবং গোপনীয়তা এবং তাদের বিকাশ ও স্থাপনায় বৃহত্তর স্বচ্ছতা এবং জবাবদিহিতার প্রয়োজনীয়তা সম্পর্কে আরও বড় প্রশ্ন উত্থাপন করে।

মাইক্রোসফ্ট দুর্বলতা সমাধানের জন্য একটি patch প্রকাশ করেছে এবং ব্যবহারকারীদের তাদের কপাইলট ইনস্টলেশনগুলি সর্বশেষ সংস্করণে আপডেট করার পরামর্শ দেওয়া হচ্ছে। সংস্থাটি তার এআই প্ল্যাটফর্মগুলির সুরক্ষা উন্নত করতে এবং prompt injection আক্রমণ সনাক্তকরণ ও প্রতিরোধের জন্য নতুন পদ্ধতি বিকাশের জন্য কাজ করছে। যেহেতু এআই প্রযুক্তি ক্রমাগত বিকশিত হচ্ছে, তাই ডেভেলপার এবং নিরাপত্তা গবেষকদের সম্ভাব্য দুর্বলতাগুলি সনাক্ত করতে এবং প্রশমিত করতে সহযোগিতা করা অত্যন্ত গুরুত্বপূর্ণ, যাতে এই শক্তিশালী সরঞ্জামগুলি নিরাপদে এবং দায়িত্বের সাথে ব্যবহার করা হয়। এই ঘটনাটি একটি অনুস্মারক হিসাবে কাজ করে যে এআই সিস্টেমের সাথে আপাতদৃষ্টিতে সাধারণ interaction-ও উল্লেখযোগ্য নিরাপত্তা প্রভাব ফেলতে পারে এবং কৃত্রিম বুদ্ধিমত্তার যুগে ব্যবহারকারীর ডেটা সুরক্ষায় সতর্কতা অবলম্বন করা অপরিহার্য।