Nvidia تطلق نموذج Nemotron 3.5 Bolt E4B لوكلاء الذكاء الاصطناعي المحليين

المهام التي يعالجها النموذج لأجهزة الحافة المؤسسية

يتعامل تشغيل وكلاء الحافة Nvidia Nemotron 3.5 مع مهام المساعدات الصوتية المحلية والشخصيات التفاعلية والواجهات المدمجة. ويركز النموذج على استخدام الأدوات متعددة الجولات وإتقان اتباع التعليمات. كما يعمل بحد أدنى من استهلاك الذاكرة وزمن استجابة سريع للرمز الأول، مما يسمح للوكلاء المحليين بتنفيذ استدعاءات الأدوات بسرعة مع الحفاظ على قدرة النظام للبرامج المجاورة.

التقييمات المرجعية مقارنة بالنماذج المنافسة

في التقييمات الرسمية ضمن إطار Nvidia NeMo Gym، أظهرت تقييمات Nemotron 3.5 Bolt E4B نتائج مرتفعة في استخدام الأدوات ومتابعة التعليمات. وفي تنسيق التكميم Q4_K_M، سجل النموذج 71.21 على مقياس RoleBench مقارنة بـ 60.51 لنموذج Gemma 4 E4B-it و52.35 لنموذج Qwen 3.5 4B. وعلى مقياس RoleMRC، حقق 79.12 مقابل 75.24 لـ Gemma 4 و62.61 لـ Qwen 3.5 4B. وفي اختبار InverseIFEval، سجل نموذج Q4_K_M نتيجة 45.26 مقارنة بـ 39.75 لـ Gemma 4 و22.04 لـ Qwen 3.5 4B.

أداء Nemotron 3.5 Bolt مقابل Qwen 3.5 4B في الاختبارات الرئيسية

تظهر المقارنة بين Nemotron 3.5 Bolt و Qwen 3.5 4B فروقًا واضحة في مقاييس الاستدلال والتعامل مع الأدوات. بدقة Q4_K_M، حقق نموذج Nvidia نتيجة 74.13 على ToolSandbox و69.29 على RelyToolBench، بينما سجل Qwen 3.5 4B نتيجة 74.51 على ToolSandbox و38.34 على RelyToolBench. وفي اختبار MultiChallenge، سجل نموذج Nvidia الكمي 55.60 مقابل 52.23 لـ Qwen 3.5 4B.

كيفية تشغيل النموذج محلياً باستخدام Docker

يمكن للمطورين الذين يتعلمون كيفية تشغيل Nemotron 3.5 Bolt E4B محلياً نشر النموذج عبر llama.cpp داخل حاويات Docker. ويتضمن النشر تحميل ملف النموذج GGUF باسم Nemotron-3.5-Bolt-E4B-Q4_K_M.gguf من Hugging Face إلى جانب الملف المساعد الاختياري Nemotron-3.5-Bolt-E4B-DFlash-BF16.gguf. ويؤدي تشغيل صورة خادم ghcr.io/ggml-org/llama.cpp مع تسريع التسريع ببطاقات الرسوميات GPU إلى توفير نقطة نهاية HTTP متوافقة مع OpenAI على المنفذ 8000 لإنشاء المحادثات.

متطلبات ذاكرة النظام والبنية المعمارية

فيما يتعلق بمتطلبات ذاكرة Nemotron 3.5 Bolt E4B VRAM، تم تصميم النسخة الكمية بحجم 4GB للتشغيل المحلي منخفض الذاكرة. وتعتمد البنية الأساسية على Gemma-4-E4B مع 8B معلمات إجمالية و4B معلمات فعالة. ويدعم النموذج أطوال سياق تصل إلى 64K رمز للإدخال والإخراج. وقد تم تدريبه بعدياً باستخدام التعزيز بالتعلم متعدد البيئات عبر Group Relative Policy Optimization في بيئات اتباع التعليمات والأدوات متعددة الجولات.

الترخيص وقواعد النشر التجاري

تم إصدار النموذج بموجب ترخيص OpenMDW-1.1 وهو جاهز للإنتاج التجاري وغير التجاري. ولأنه خضع لتدريب إضافي انطلاقاً من Google Gemma-4-E4B-it، فإن استخدام نموذج Gemma 4 الأساسي يخضع لترخيص Apache License, Version 2.0. وتاريخ قطع البيانات للتدريب البعدي هو مايو 2026. وتتضمن أنظمة التشغيل المدعومة Linux على المعماريات الدقيقة لبطاقات NVIDIA Ampere A100 وHopper H100-80GB وBlackwell.

أسئلة وإجابات

هل النموذج مرخص للنشر التجاري؟

نعم، النموذج متاح بموجب ترخيص OpenMDW-1.1 للاستخدام التجاري وغير التجاري، مع خضوع نموذج Gemma 4 الأساسي لترخيص Apache License, Version 2.0.

كيف يعالج النموذج الأداء مقارنة بـ Qwen 3.5 وGemma 4؟

في تقييمات NeMo Gym بتكميم Q4_K_M، حقق النموذج 71.21 على RoleBench و69.29 على RelyToolBench، متفوقًا على Gemma 4 E4B-it (60.51 و67.15) وQwen 3.5 4B (52.35 و38.34).