مشكلة السياق في الذكاء الاصطناعي: خبراء يسلطون الضوء على تحديات تقديم نتائج في الوقت الفعلي وتأمين الأنظمة العاملة بالوكالة
تواجه نماذج اللغة الكبيرة (LLMs) تحديات كبيرة في تقديم نتائج في الوقت الفعلي وتأمين الأنظمة العاملة بالوكالة، وفقًا لتقارير حديثة وآراء الخبراء. في حين تتفوق نماذج اللغة الكبيرة في الاستدلال، فإنها غالبًا ما تعاني من مشكلة السياق، مما يعيق قدرتها على توفير تجارب مساعدة حقيقية، خاصة في البيئات الديناميكية مثل أنظمة الطلب في الوقت الفعلي. في الوقت نفسه، تتزايد المخاوف بشأن أمن الأنظمة العاملة بالوكالة، مما يدعو إلى حوكمة قوية وضوابط حدودية.
إن "مشكلة وصفة كعكة البراوني"، كما وصفها أنيربان كوندو، المدير التقني في Instacart، تجسد تحدي السياق. وفقًا لموقع VentureBeat، لا يكفي أن يفهم نموذج اللغة الكبير ببساطة طلبًا لصنع كعكة براوني. لكي يكون النموذج مفيدًا حقًا، يجب أن يأخذ في الاعتبار تفضيلات المستخدم وتوافر السوق (البيض العضوي مقابل البيض العادي) والقيود الجغرافية لضمان إمكانية التسليم ومنع تلف الطعام. تهدف Instacart إلى التوفيق بين زمن الوصول والاستخدام الأمثل للسياق لتقديم تجارب في أقل من ثانية واحدة.
هذا النقص في السياق يتجاوز أنظمة الطلب. جادل راجو مالهوترا من Certinia، في VentureBeat، بأن فشل العديد من البرامج التجريبية للذكاء الاصطناعي في تقديم النتائج الموعودة ينبع من نقص في السياق، وليس نقصًا في الذكاء في النماذج نفسها. وعزا ذلك إلى "مجموعات فرانكشتاين" من الحلول النقطية المنفصلة وواجهات برمجة التطبيقات (APIs) الهشة وعمليات التكامل المحملة بزمن الوصول التي تحبس السياق داخل تقنيات متباينة.
بالإضافة إلى التعقيد، سلطت MIT Technology Review الضوء على المعدل الأسي الذي تتطور به بعض قدرات الذكاء الاصطناعي، كما تتبعته منظمة METR غير الربحية لأبحاث الذكاء الاصطناعي. في حين أن التطورات سريعة، إلا أن الحاجة إلى التنفيذ الآمن تظل ذات أهمية قصوى.
أثار التطور المتزايد لوكلاء الذكاء الاصطناعي مخاوف بشأن المخاطر المحتملة. ذكرت MIT Technology Review عن أول حملة تجسس منسقة بالذكاء الاصطناعي وفشل التحكم على مستوى المطالبات. استجابة لذلك، يدعو الخبراء إلى معاملة الوكلاء كمستخدمين أقوياء وشبه مستقلين وإنفاذ القواعد على الحدود حيث يتفاعلون مع الهوية والأدوات والبيانات والمخرجات. حددت Protegrity، في MIT Technology Review، خطة من ثماني خطوات للمديرين التنفيذيين لتنفيذها والإبلاغ عنها، مع التركيز على إدارة الأنظمة العاملة بالوكالة على الحدود من خلال ثلاث ركائز للتحكم.
علاوة على ذلك، فإن متطلبات الطاقة للذكاء الاصطناعي أصبحت أيضًا موضع تركيز. أشارت MIT Technology Review إلى الاستثمار غير المسبوق في مراكز البيانات الضخمة لدعم شهية الذكاء الاصطناعي للحوسبة. يجري النظر في محطات الطاقة النووية من الجيل التالي كمصدر محتمل للكهرباء لهذه المرافق، مما يوفر بناءً أرخص وتشغيلًا أكثر أمانًا مقارنة بالنماذج القديمة. كان هذا موضوعًا رئيسيًا تمت مناقشته في مناقشة الموائد المستديرة الحصرية للمشتركين مؤخرًا حول مراكز بيانات الذكاء الاصطناعي واسعة النطاق والطاقة النووية من الجيل التالي.
تسلط التحديات المحيطة بتطوير الذكاء الاصطناعي، من الفهم السياقي إلى الأمن واستهلاك الطاقة، الضوء على الحاجة إلى اتباع نهج متعدد الأوجه. مع استمرار تطور الذكاء الاصطناعي، سيكون معالجة هذه القضايا أمرًا بالغ الأهمية لتحقيق إمكاناته الكاملة مع التخفيف من المخاطر المحتملة.
Discussion
AI Experts & Community
Be the first to comment