Model Optimizer

الغرض ونية المستخدم: الأداة موجهة لمهندسي ML، فرق النشر، وعلماء البيانات الذين يحتاجون إلى تحسين النماذج لتشغيل NVIDIA. تدعم التخطيط، التحويل إلى محركات TensorRT وتقديرات أداء مطابقة للمعدات. الفائدة الكبرى في حالات النشر ذات التأخر المنخفض.
المنطق الأساسي والميزات: يشترط وجود model_file، input_names، input_shapes، output_names و target_precision؛ بيانات المعايرة اختيارية تتيح INT8. الخيارات المتقدمة تشمل الأشكال الديناميكية، معالجة العمليات المخصصة، والقياس. المدخلات: model_file، input_names، input_shapes، output_names، target_precision، max_batch_size و engine_output. المخرجات: engine_file، calibration_table، latency_estimate و throughput_estimate.
الخوارزميات والحسابات: يبني ملف تعريف تحسين TensorRT، يطبق دمج الرسوم، يختار النوى، يُعاير (لـ INT8) ويصدر محركًا مُسلسلًا مع تقرير الأداء.
الأخطاء والحالات الحديّة: صيغ غير صالحة، مدخلات مفقودة، عمليات غير مدعومة أو مشاكل المعايرة قد تؤدي إلى فشل البناء أو العودة إلى FP16/FP32.
الصناعة/المنطقة والمواءمة: يتوافق مع تنسيقات DL ومواثيق TensorRT؛ يستخدم المللي ثانية للكمون وانفادات/ثانية للطاقة الإنتاجية.
الافتراضات والاستثناءات: لا يقوم بتدريب النماذج؛ ليس إطار نشر كامل؛ لا يتحقق من الدقة بعد التحسين. حالات الاستخدام: التخطيط السريع للنشر، التحسين المعتمد على العتاد، والقياس قبل الإنتاج.