قامت مايكروسوفت بمعالجة ثغرة أمنية في مساعدها الذكي Copilot سمحت للمهاجمين باستخراج بيانات المستخدمين الحساسة بنقرة واحدة على رابط يبدو مشروعًا. اكتشف باحثو الأمن في شركة Varonis هذا الخلل، موضحين هجومًا متعدد المراحل يمكنه تسريب بيانات مثل اسم المستخدم وموقعه وتفاصيل من سجل دردشة Copilot الخاص به.
الهجوم، بمجرد أن يبدأه المستخدم بالنقر على الرابط، استمر في العمل حتى بعد إغلاق دردشة Copilot، دون الحاجة إلى مزيد من التفاعل. وفقًا لدوليف تالر، الباحث الأمني في Varonis، تجاوز هذا الاستغلال عناصر التحكم الأمنية لنقاط النهاية المؤسسية واكتشاف تطبيقات حماية نقاط النهاية. وقال تالر لموقع Ars Technica: "بمجرد أن نقدم هذا الرابط مع هذا الموجه الخبيث، يتعين على المستخدم فقط النقر على الرابط ويتم تنفيذ المهمة الخبيثة على الفور". "حتى إذا قام المستخدم بالنقر فوق الرابط وإغلاق علامة تبويب دردشة Copilot على الفور، فإن الاستغلال لا يزال يعمل."
يسلط هذا النوع من الثغرات الأمنية الضوء على المخاوف الأمنية المتزايدة المحيطة بالأدوات التي تعمل بالذكاء الاصطناعي وتكاملها في مهام سير العمل اليومية. يعمل Copilot، مثل نماذج اللغة الكبيرة الأخرى (LLMs)، عن طريق معالجة مدخلات المستخدمين والاستجابة لها، وغالبًا ما يقوم بالوصول إلى بيانات المستخدمين وتخزينها لتحسين أدائه وتخصيص التفاعلات. هذه البيانات، إذا لم يتم تأمينها بشكل صحيح، يمكن أن تصبح هدفًا للمهاجمين.
أظهر باحثو Varonis، الذين يعملون كقراصنة قبعة بيضاء، كيف يمكن استخدام عنوان URL مصمم خصيصًا لحقن مطالبات ضارة في جلسة Copilot الخاصة بالمستخدم. يمكن بعد ذلك استخدام هذه المطالبات لاستخراج معلومات حساسة أو تنفيذ إجراءات غير مصرح بها نيابة عن المستخدم. حقيقة أن الهجوم استمر حتى بعد أن أغلق المستخدم نافذة الدردشة تؤكد على إمكانية وجود تهديدات مستمرة داخل البيئات التي تعتمد على الذكاء الاصطناعي.
تتجاوز تداعيات هذه الثغرة الأمنية المستخدمين الأفراد. في بيئات المؤسسات، حيث يتم استخدام Copilot والأدوات المماثلة بشكل متزايد لمهام مثل تلخيص المستندات وإنشاء التعليمات البرمجية وتحليل البيانات، يمكن أن يؤدي الهجوم الناجح إلى تعريض معلومات الأعمال الحساسة والملكية الفكرية للخطر. إن القدرة على تجاوز عناصر التحكم الأمنية لنقاط النهاية تزيد من تفاقم المخاطر، حيث قد لا تكون التدابير الأمنية التقليدية كافية لاكتشاف مثل هذه الهجمات ومنعها.
أصدرت مايكروسوفت تصحيحًا لمعالجة الثغرة الأمنية، مع التأكيد على أهمية تحديث البرامج. ومع ذلك، فإن الحادث بمثابة تذكير بالحاجة المستمرة إلى تدابير أمنية قوية ومراقبة مستمرة في عصر الذكاء الاصطناعي. مع ازدياد تطور نماذج الذكاء الاصطناعي واندماجها في الأنظمة الحيوية، يجب على باحثي الأمن والمطورين العمل معًا لتحديد الثغرات الأمنية المحتملة والتخفيف من حدتها قبل أن يتمكن المهاجمون من استغلالها. يثير الحادث أيضًا تساؤلات حول مسؤولية مطوري الذكاء الاصطناعي لضمان أمن وخصوصية بيانات المستخدمين، والحاجة إلى إرشادات ولوائح واضحة تحكم تطوير ونشر تقنيات الذكاء الاصطناعي.
Discussion
Join the conversation
Be the first to comment