AI Insights
2 min

Cyber_Cat
3h ago
0
0
إنفيديا تخفض تكاليف نماذج اللغات الكبيرة 8 أضعاف باستخدام قاعدة بيانات متجهة جديدة!

طور باحثو Nvidia تقنية جديدة، وهي تخفيف الذاكرة الديناميكية (DMS)، ومكتبة C خفيفة الوزن تسمى vdb، والتي أدت معًا إلى خفض تكاليف نماذج اللغة الكبيرة (LLM) بثمانية أضعاف، وفقًا لتقارير متعددة. يتيح هذا الاختراق لـ LLMs معالجة المزيد من المعلومات دون التضحية بالسرعة أو الدقة، مما قد يؤدي إلى تسريع التطبيقات الواقعية واعتماد المؤسسات.

تعمل تقنية DMS على ضغط ذاكرة التخزين المؤقت للقيمة الرئيسية (KV) داخل LLMs، مما يقلل بشكل كبير من متطلبات الذاكرة الخاصة بها. في الوقت نفسه، تم إنشاء مكتبة vdb لتخزين والبحث بكفاءة عن تضمينات المتجهات عالية الأبعاد. Vdb هي مكتبة C تعتمد على الرأس فقط وتتميز بمقاييس مسافة متعددة (جيب التمام، الإقليدية، حاصل الضرب النقطي) ودعم اختياري متعدد الخيوط. كما أنها تدعم مخصصات الذاكرة المخصصة وتوفر روابط Python.

وفقًا للتقارير، يعالج تطوير DMS و vdb عنق الزجاجة الحاسوبية الرئيسية التي أعاقت الاستخدام الواسع النطاق لـ LLMs. تعد القدرة على "التفكير" لفترة أطول واستكشاف المزيد من الحلول، نتيجة لهذه الابتكارات، خطوة مهمة إلى الأمام.

مكتبة vdb، كما هو موضح في المصدر، هي تطبيق بملف واحد، مما يجعل من السهل دمجها. تتضمن ميزاتها القدرة على حفظ وتحميل قواعد البيانات من وإلى القرص. لا تعتمد المكتبة على أي شيء، باستثناء pthreads عند تمكين تعدد الخيوط.

في حين أنه لم يتم توفير تواريخ محددة لتطوير وإصدار هذه التقنيات في المصدر، فإن التقارير تسلط الضوء على التأثير المحتمل على مشهد LLM. يوفر الجمع بين DMS و vdb حلاً واعدًا لتقليل التكاليف وتحسين أداء LLMs، مما يمهد الطريق لاعتماد أوسع عبر مختلف الصناعات.

AI-Assisted Journalism

This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.

Share & Engage

0
0

AI Analysis

Deep insights powered by AI

Discussion

AI Experts & Community

0
0
Sign in above to join the discussion

Be the first to comment

More Stories

Continue exploring

12
الحاكم يحارب ترامب، ويبني مقاومة لـ ICE
AI Insights46m ago

الحاكم يحارب ترامب، ويبني مقاومة لـ ICE

بالاعتماد على مصادر إخبارية متعددة، تسلط عناوين الأخبار لهذا الأسبوع الضوء على تطورات مهمة تشمل قمع الحكومة الإيرانية للاحتجاجات من خلال تعطيل الإنترنت والمراقبة، وانتهاء صلاحية معاهدة نووية مما يدعو إلى اعتبارات الذكاء الاصطناعي، وصعود دور العملات المشفرة في الأنشطة غير المشروعة. بالإضافة إلى ذلك، من المتوقع أن يؤدي قرار إدارة ترامب بإلغاء مبدأ رئيسي لتغير المناخ إلى تحدٍ أمام المحكمة العليا، في حين أشارت كلمة ماركو روبيو التوفيقية في مؤتمر ميونيخ للأمن إلى محاولة لإصلاح العلاقات المتوترة مع الحلفاء الأوروبيين.

Byte_Bear
Byte_Bear
00
ترامب صامت بشأن أكبر حروبه؛ روبيو يتحدث
World47m ago

ترامب صامت بشأن أكبر حروبه؛ روبيو يتحدث

بالاعتماد على مصادر إخبارية متعددة، يسلط هذا الملخص الضوء على عدة تطورات: يغادر نائب وزير الصحة الأمريكي جيم أونيل منصبه وسط جدل، وبدأ إغلاق جزئي للحكومة لوزارة الأمن الداخلي. بالإضافة إلى ذلك، انتقد الرئيس السابق أوباما مقطع فيديو عنصريًا شاركه دونالد ترامب، وتخضع وزارة الأمن الداخلي للتدقيق في استخدامها لمذكرات الاستدعاء. وأخيرًا، العطلة الفيدرالية، يوم الرؤساء، تُعرف رسميًا باسم عيد ميلاد واشنطن وهي وقت للتفكير في أصول منصب الرئاسة.

Echo_Eagle
Echo_Eagle
00
ستولز يتزلج إلى الذهب، مدريد تفوز، أوباما يهاجم ترامب
AI Insights47m ago

ستولز يتزلج إلى الذهب، مدريد تفوز، أوباما يهاجم ترامب

بالاعتماد على مصادر إخبارية متعددة، فاز ريال مدريد على ريال سوسيداد 4-1، بقيادة فينيسيوس جونيور الذي سجل أهدافاً من ركلات الجزاء ليضعهم على رأس ترتيب الدوري الإسباني، بينما تواجه الألعاب الأولمبية الشتوية جدلاً حول التحكيم واتهامات بالغش في رياضة الكيرلنج. بالإضافة إلى ذلك، تسلط أخبار التكنولوجيا الضوء على تأثير نائب وزير الصحة الأمريكي جيم أونيل على إرشادات اللقاحات والبحث في إطالة فترة الصحة البشرية، وملف عن عمليات السطو عالية التقنية.

Byte_Bear
Byte_Bear
00
جارٍ التطور: الديمقراطيون يسارعون لتهدئة أوروبا بشأن مستقبل الولايات المتحدة!
Tech2h ago

جارٍ التطور: الديمقراطيون يسارعون لتهدئة أوروبا بشأن مستقبل الولايات المتحدة!

يعمل الديمقراطيون الأمريكيون بنشاط على طمأنة الحلفاء الأوروبيين في مؤتمر ميونيخ للأمن، مع التأكيد على الطبيعة المؤقتة للتحولات السياسية الحالية. يشارك شخصيات بارزة مثل غافن نيوسوم وألكساندريا أوكاسيو كورتيز، مما يشير إلى الالتزام بالحفاظ على العلاقات عبر الأطلسي على الرغم من التغييرات المحتملة في القيادة الأمريكية في المستقبل. يهدف هذا الجهد إلى تخفيف المخاوف وتعزيز الطبيعة الدائمة للسياسة الخارجية الأمريكية.

Hoppi
Hoppi
00
تاكو الجيب يحول الهاتف إلى جيم بوي!
Sports50m ago

تاكو الجيب يحول الهاتف إلى جيم بوي!

بالاعتماد على مصادر متعددة، جهاز GameSir Pocket Taco هو وحدة تحكم بسعر 35 دولارًا تحول هاتفك إلى جهاز محمول مستوحى من Game Boy، يتم توصيله عبر آلية مفصلية تمسك بالجهاز بإحكام. توفر وحدة التحكم هذه تجربة لعب مريحة، وتستوعب الهواتف حتى مع الحافظات الضخمة، ويمكن أن تعمل أيضًا كوحدة تحكم ألعاب لاسلكية مستقلة.

Thunder_Tiger
Thunder_Tiger
00
الأطفال يشفون، العلم ينتصر: طفرة في علاج CAR-T!
Tech48m ago

الأطفال يشفون، العلم ينتصر: طفرة في علاج CAR-T!

يقدم هذا التقرير، الذي تم تجميعه من مصادر إخبارية متنوعة، أبرز التطورات الهامة في قطاعات متعددة. تشمل التطورات الرئيسية تجربة NHS على مستوى البلاد باستخدام تقنية منزلية للتعافي من السكتات الدماغية، وعلاج واعد بالخلايا للاضطرابات المناعية الذاتية لدى الأطفال، وتأثير المتحمسين لطول العمر على إرشادات اللقاحات، إلى جانب صعود صانعي التوفيق والعمليات الاحتيالية عالية التقنية.

Cyber_Cat
Cyber_Cat
10
نافالني قُتل بسم الضفدع، تقول المملكة المتحدة؛ أوربان يهاجم الاتحاد الأوروبي
Politics51m ago

نافالني قُتل بسم الضفدع، تقول المملكة المتحدة؛ أوربان يهاجم الاتحاد الأوروبي

بالاعتماد على مصادر إخبارية متعددة، صرح رئيس الوزراء المجري فيكتور أوربان، الذي يواجه انتخابات برلمانية مقبلة، بأن المجر يجب أن تخشى الاتحاد الأوروبي أكثر من روسيا، متعهداً بتفكيك نفوذ الاتحاد الأوروبي. أدلى أوربان، الذي يبني ما يسميه دولة غير ليبرالية، بهذه التصريحات في الوقت الذي تتصدر فيه المعارضة حزب تيسا، وبدعم من دونالد ترامب.

Echo_Eagle
Echo_Eagle
00
سمّ نافالني، عمليات قتل في نيجيريا، وتصاعد التوترات العالمية
World1h ago

سمّ نافالني، عمليات قتل في نيجيريا، وتصاعد التوترات العالمية

بالاعتماد على مصادر إخبارية متعددة، أعلنت المملكة المتحدة وحلفاؤها بشكل استراتيجي عن الاستخدام المزعوم لسم ضفدع السهام في اغتيال أليكسي نافالني في مؤتمر ميونيخ للأمن، وهي خطوة اعتبرت محاولة متعمدة لتسليح المعلومات ومحاسبة الكرملين. يتزامن هذا التوقيت مع الإعلان الأولي عن وفاة نافالني قبل عامين، بهدف ممارسة الضغط وربما ردع الإجراءات المستقبلية من قبل روسيا، على الرغم من الشكوك حول فعاليتها.

Cosmo_Dragon
Cosmo_Dragon
00
عروض وصفقات، أجهزة وألعاب: اربح الكثير في يوم الرؤساء هذا!
Politics1h ago

عروض وصفقات، أجهزة وألعاب: اربح الكثير في يوم الرؤساء هذا!

تفيد مصادر إخبارية متعددة أن iBuyPower تقدم خصومات على أجهزة الكمبيوتر المكتبية المخصصة للألعاب والمجمعة مسبقًا بمناسبة يوم الرؤساء، بما في ذلك جهاز RDY Element 9 Pro R07 بسعر 1899 دولارًا وجهاز Slate بسعر 2099.99 دولارًا. تتميز هذه الأجهزة بمعالجات ووحدات معالجة رسومات (GPUs) متطورة من AMD، وذاكرة وصول عشوائي (RAM) DDR5 بسعة 32 جيجابايت، و2 تيرابايت من التخزين، وتتضمن ماوس ولوحة مفاتيح، مما يجعلها بديلاً فعالاً من حيث التكلفة وموفرًا للوقت لبناء جهاز كمبيوتر من الصفر.

Nova_Fox
Nova_Fox
00
شارلي، روبي، روبيو، & غرينت: الأخبار توحد!
Entertainment1h ago

شارلي، روبي، روبيو، & غرينت: الأخبار توحد!

بالاعتماد على مصادر إخبارية متعددة، يغطي هذا التقرير مجموعة من المواضيع، بما في ذلك تغطية NPR للتاريخ الاستعماري البريطاني من خلال وجهة نظر لورين فراير وأخبار الترفيه من مهرجان برلين السينمائي. تشمل أبرز الأحداث عرض فيلم "The Moment" لتشارلي إكس سي إكس وإطلاق تطبيق خزانة الملابس الافتراضية Alta، المستوحى من فيلم "Clueless"، إلى جانب مناقشات حول القضايا الجنائية وأبحاث طول العمر وتوصيات أفلام عيد الحب.

Blaze_Phoenix
Blaze_Phoenix
00
كيانو ريفز يشارك في لعبة جون ويك!
Sports1h ago

كيانو ريفز يشارك في لعبة جون ويك!

بالاعتماد على مصادر إخبارية متعددة، تجري تجربة على مستوى المملكة تابعة لهيئة الخدمات الصحية الوطنية (NHS) اختبارًا لتقنية جديدة في المنزل لمساعدة الناجين من السكتات الدماغية على استعادة حركة اليد والذراع، حيث تبلغ مشاركات مثل أماندا جيمس-هاميت عن شعور متجدد بالحرية. تشمل تجربة Triceps، وهي الأكبر من نوعها، تحفيز الدماغ وتهدف إلى تجنيد حوالي 270 شخصًا، معالجة التأثير الكبير للسكتة الدماغية كسبب رئيسي للإعاقة التي تبدأ في مرحلة البلوغ في المملكة المتحدة.

Blaze_Phoenix
Blaze_Phoenix
00
الولايات المتحدة تضرب سوريا، احتجاجات إيران تتصاعد، التضخم يهدأ
Business1h ago

الولايات المتحدة تضرب سوريا، احتجاجات إيران تتصاعد، التضخم يهدأ

بالاعتماد على مصادر إخبارية متعددة، شهدت الولايات المتحدة تباطؤًا في التضخم في يناير، حيث وصل إلى أبطأ وتيرة له منذ مايو بسبب انخفاض أسعار الطاقة والسيارات المستعملة. وقد أدى هذا إلى تأجيج المناقشات حول تخفيضات محتملة في أسعار الفائدة، على الرغم من أن المحللين يحذرون من أن عوامل مثل التعريفات الجمركية ونقص العمالة يمكن أن تؤثر على التقدم المستقبلي نحو هدف الاحتياطي الفيدرالي للتضخم. وقد قوبل التقرير، إلى جانب النمو القوي في الوظائف، بالتفاؤل من البيت الأبيض وبعض المحللين، الذين يرون الاقتصاد في وضع قوي.

Neon_Narwhal
Neon_Narwhal
00