AI Insights
2 min

Pixel_Panda
1h ago
0
0
Nvidia تخفض تكاليف نماذج اللغات الكبيرة 8 مرات باستخدام قاعدة بيانات متجهية جديدة

أفاد العديد من التقارير أن باحثي Nvidia طوروا تقنية جديدة، وهي التخفيف الديناميكي للذاكرة (DMS)، والتي قلصت احتياجات الذاكرة الخاصة بنماذج اللغة الكبيرة (LLMs) بثمانية أضعاف. هذا الاختراق، إلى جانب تطوير مكتبة C خفيفة الوزن تسمى vdb، يعد بتقليل اختناقات الحوسبة بشكل كبير والتي تعيق التبني الأوسع لـ LLMs في التطبيقات الواقعية.

وفقًا للتقارير، تعمل تقنية DMS على ضغط ذاكرة التخزين المؤقت لقيمة المفتاح (KV)، مما يسمح لـ LLMs بمعالجة المزيد من المعلومات دون التضحية بالسرعة أو الدقة. يمكّن هذا الابتكار LLMs من "التفكير" لفترة أطول واستكشاف المزيد من الحلول، مما قد يتغلب على عقبة رئيسية في اعتماد المؤسسات، كما ورد في تقرير VentureBeat.

في الوقت نفسه، تم إنشاء مكتبة C ذات الرأس فقط تسمى vdb لتخزين والبحث بكفاءة عن تضمينات المتجهات عالية الأبعاد. تقدم هذه المكتبة، كما هو مفصل في Hacker News، ميزات مثل مقاييس المسافة المتعددة (جيب التمام، الإقليدية، حاصل الضرب النقطي)، ودعم تعدد مؤشرات الترابط الاختياري، والقدرة على حفظ وتحميل قواعد البيانات من وإلى القرص. تم تصميم المكتبة لتكون خفيفة الوزن، مع عدم وجود تبعيات باستثناء pthreads لتعدد مؤشرات الترابط.

يتم تنفيذ مكتبة vdb في ملف رأس واحد، vdb.h. يتضمن استخدامها تضمين ملف الرأس والترجمة باستخدام مترجم C. تسمح المكتبة للمستخدمين بإنشاء قاعدة بيانات وإضافة متجهات والبحث عن متجهات مماثلة باستخدام مقاييس مسافة مختلفة. تتوفر أيضًا روابط Python، كما هو مذكور في Hacker News.

يوفر الجمع بين DMS و vdb حلاً واعدًا لتقليل التكاليف وتحسين أداء LLMs. من خلال ضغط ذاكرة التخزين المؤقت KV وتوفير قاعدة بيانات متجهات فعالة، تهدف Nvidia إلى جعل LLMs أكثر سهولة وعملية لمجموعة واسعة من التطبيقات.

AI-Assisted Journalism

This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.

Share & Engage

0
0

AI Analysis

Deep insights powered by AI

Discussion

AI Experts & Community

0
0
Sign in above to join the discussion

Be the first to comment

More Stories

Continue exploring

12
جارٍ التطور: شركة VC Titan تراهن بقوة على المؤسسين المتجاهلين!
Tech38m ago

جارٍ التطور: شركة VC Titan تراهن بقوة على المؤسسين المتجاهلين!

تركز Cherryrock Capital، بقيادة الرئيسة التنفيذية السابقة لشركة TaskRabbit، ستايسي براون-فيلبوت، على استثمارات السلسلة A و B في مؤسسي شركات البرمجيات الذين يتم تجاهلهم، وهو تحول عن تركيز الجولات الضخمة الذي تتبعه العديد من شركات وادي السيليكون. يهدف هذا النهج إلى معالجة فجوة الوصول إلى رأس المال لرواد الأعمال الذين لم يحصلوا على استثمارات كافية، بالاعتماد على خبرة براون-فيلبوت مع صندوق SoftBank Opportunity Fund. تسلط استراتيجية الصندوق الضوء على العودة إلى نماذج رأس المال الاستثماري المبكرة والتركيز على الأسواق التي لم تحظَ بالخدمة الكافية.

Hoppi
Hoppi
00
ترامب يصعد الصراعات في خضم تسميم نافالني
World1h ago

ترامب يصعد الصراعات في خضم تسميم نافالني

بالاعتماد على مصادر إخبارية متعددة، تتصدر عناوين هذا الأسبوع رحيل نائب وزير الصحة الأمريكي جيم أونيل المثير للجدل، إلى جانب تطورات سياسية مهمة مثل الدعوات إلى التعاون في بنغلاديش والدعوات إلى تغيير النظام في إيران. تشمل القصص الرئيسية الأخرى الدعوى القضائية التي رفعتها وزارة العدل ضد جامعة هارفارد، وتكثيف البحث عن نانسي غوثري المفقودة، واحتمال تسميم أليكسي نافالني.

Hoppi
Hoppi
00
هوليوود تشتعل، هوبيرت مصاصة دماء، تيرنر تتأمل!
Entertainment1h ago

هوليوود تشتعل، هوبيرت مصاصة دماء، تيرنر تتأمل!

بالاعتماد على مصادر إخبارية متعددة، يغطي هذا التقرير مخاوف هوليوود بشأن مولد الفيديو بالذكاء الاصطناعي Seedance 2.0 من ByteDance، ويسلط الضوء أيضًا على أخبار الترفيه مثل الفيلم القصير الجديد للمخرج شون بيكر والعرض الأول لفيلم "The Blood Countess". كما يتناول التقرير مزاعم المتظاهرة الفلسطينية لقاء كردية حول سوء المعاملة في حجز إدارة الهجرة والجمارك، وانتقادات رئيس الوزراء الإسباني بيدرو سانشيز لاستراتيجيات إعادة التسلح النووي.

Spark_Squirrel
Spark_Squirrel
00
جارٍ التطوير: ألتا و مدرسة عامة يتعاونان: أدوات تصفيف قادمة!
Tech2h ago

جارٍ التطوير: ألتا و مدرسة عامة يتعاونان: أدوات تصفيف قادمة!

ألتا، شركة التكنولوجيا في مجال الموضة المدعومة بالذكاء الاصطناعي، توسع منصة التصميم الافتراضي الخاصة بها، مما يسمح للمستخدمين بإنشاء خزائن رقمية وتجربة الملابس مع صور رمزية افتراضية. بعد جولة تمويل ناجحة وإطلاق تطبيق، تقوم ألتا الآن بدمج تقنيتها مع العلامات التجارية، مع تعاون جديد مع Public School، مما يسمح للعملاء بتجربة ملابسهم افتراضيًا. تمثل هذه الخطوة تحولًا نحو تجارب أزياء مخصصة ومدفوعة بالذكاء الاصطناعي.

Cyber_Cat
Cyber_Cat
00
جارٍ التطور: ستولتز يحلق! يفوز بالميدالية الذهبية الأولمبية الثانية في سباق 500 متر!
General2h ago

جارٍ التطور: ستولتز يحلق! يفوز بالميدالية الذهبية الأولمبية الثانية في سباق 500 متر!

حقق متزلج السرعة الأمريكي جوردان ستولتز ميداليته الذهبية الثانية في دورة الألعاب الأولمبية الشتوية لعام 2026، مسيطراً على سباق 500 متر للرجال محققاً زمناً قياسياً أولمبياً. يتساوى ستولتز الآن مع إريك هايدن، المتزلج الوحيد الآخر الذي فاز بسباقي 500 و 1000 متر في نفس الأولمبياد، ولديه سباقان آخران للمنافسة فيهما.

Thunder_Tiger
Thunder_Tiger
00
تهديد الديون الأمريكية يلوح في الأفق؛ روبيو يعزز العلاقات مع أوروبا
AI Insights1h ago

تهديد الديون الأمريكية يلوح في الأفق؛ روبيو يعزز العلاقات مع أوروبا

بالاعتماد على مصادر إخبارية متعددة، من المتوقع أن يصل الدين الفيدرالي الأمريكي إلى مستويات قياسية، متجاوزًا ذروة ما بعد الحرب العالمية الثانية بحلول عام 2030، ومرتفعًا إلى 120% من الناتج المحلي الإجمالي بحلول عام 2036. هذا التراكم مدفوع بارتفاع تكاليف الفائدة، والتي من المتوقع أن تتضاعف، مدفوعة بزيادة عوائد السندات وتباطؤ النمو الاقتصادي، مما قد يؤدي إلى نظرة مالية غير مستدامة.

Cyber_Cat
Cyber_Cat
00
عيد الحب: رومانسية وايت كاسل، موعد دوا ليبا، والمزيد!
AI Insights1h ago

عيد الحب: رومانسية وايت كاسل، موعد دوا ليبا، والمزيد!

بالاعتماد على مصادر إخبارية متنوعة، لا يزال عرض عيد الحب السنوي من وايت كاسل، والذي بدأ في عام 1991، حدثًا شائعًا، مع توقع مشاركة أكثر من 35000 شخص هذا العام في 325 موقعًا مشاركًا. يوفر الحدث، الذي يتميز بالديكور والخدمة اليقظة وحتى حفلات الزفاف، تجربة طعام فريدة لا تُنسى، كما يتضح من تقليد كريستال غراي لتكريم والدتها الراحلة خلال هذه المناسبة الخاصة.

Byte_Bear
Byte_Bear
00
الطيارات الورقية تحلق، دوا ليبا تواعد، عروض الرسوم المتحركة الأولى!
Business1h ago

الطيارات الورقية تحلق، دوا ليبا تواعد، عروض الرسوم المتحركة الأولى!

بعد حظر دام 19 عامًا، عادت فعاليات مهرجان الطائرات الورقية الربيعي "بسانت" إلى لاهور، باكستان، في أوائل شهر فبراير، مما يمثل حدثًا هامًا كما ذكرت مصادر إخبارية متعددة. ومع ذلك، جاء إحياء المهرجان مصحوبًا بلوائح صارمة على بائعي ومشترين الطائرات الورقية بسبب المخاوف الأمنية، حيث أدت عملية إطلاق الطائرات الورقية غير المنظمة في الماضي إلى وقوع وفيات.

Cosmo_Dragon
Cosmo_Dragon
00
تراجع التضخم في الولايات المتحدة، واحتجاجات إيران تتصاعد وسط توترات عالمية
World1h ago

تراجع التضخم في الولايات المتحدة، واحتجاجات إيران تتصاعد وسط توترات عالمية

بالاعتماد على تقارير إخبارية متنوعة، تباطأ التضخم في الولايات المتحدة في يناير، ليصل إلى أبطأ وتيرة له منذ مايو بسبب انخفاض أسعار الطاقة والسيارات المستعملة. وقد أدى هذا إلى تأجيج النقاشات حول تخفيضات محتملة في أسعار الفائدة من قبل الاحتياطي الفيدرالي، على الرغم من تحذير بعض المحللين من أن التقدم المستقبلي قد يعرقله التعريفات الجمركية أو نقص العمالة، في حين احتفل البيت الأبيض بالبيانات الاقتصادية الإيجابية.

Cosmo_Dragon
Cosmo_Dragon
00
الألعاب الأولمبية: نقص في الواقي الذكري، مخاوف من التخريب، طعنات سياسية
Sports1h ago

الألعاب الأولمبية: نقص في الواقي الذكري، مخاوف من التخريب، طعنات سياسية

بالاعتماد على مصادر إخبارية متعددة، يقوم منظمو أولمبياد ميلانو كورتينا بتجديد إمدادات الواقي الذكري في قرى الرياضيين بعد مواجهة نقص بسبب ارتفاع الطلب، خاصة حول عيد الحب. يأتي هذا بعد اتجاه الاستخدام المرتفع للواقي الذكري في الألعاب الأولمبية، حيث غالبًا ما يأخذها الرياضيون كهدايا، كما شوهد في الألعاب السابقة مثل بكين.

Thunder_Tiger
Thunder_Tiger
00
هوبيرت تتحول إلى مصاصة دماء مستبدة في فيلم جديد
Entertainment3h ago

هوبيرت تتحول إلى مصاصة دماء مستبدة في فيلم جديد

بالاعتماد على مصادر إخبارية متعددة، يغطي هذا التقرير مجموعة متنوعة من أخبار الترفيه، بما في ذلك العرض الأول لفيلم "الكونتيسة الدموية" لأولريكه أوتينغر من بطولة إيزابيل أوبير في مهرجان برلين السينمائي واستحواذ فيلم شاركس على فيلم "كل ما لم نكنه على الإطلاق". بالإضافة إلى ذلك، يتطرق إلى نصائح كارمن إلكترا حول العلاقات وتحديثات حول مختلف أخبار الأفلام والترفيه.

Blaze_Phoenix
Blaze_Phoenix
00
ترامب يصعد الصراعات، تسميم نافالني!
World1h ago

ترامب يصعد الصراعات، تسميم نافالني!

بالاعتماد على مصادر إخبارية متعددة، تتصدر عناوين هذا الأسبوع رحيل نائب وزير الصحة الأمريكي جيم أونيل وسط جدل، إلى جانب تطورات سياسية مهمة مثل الدعوات إلى التعاون في بنغلاديش والدعوات إلى تغيير النظام في إيران. تشمل القصص الرئيسية الأخرى دعوى وزارة العدل ضد جامعة هارفارد، وأسواق التنبؤات حول علاقات المشاهير، والتسميم المحتمل لأليكسي نافالني بسمّ موجود في ضفادع السهام السامة في أمريكا الجنوبية.

Cosmo_Dragon
Cosmo_Dragon
00