أصبحت سرعة الاستدلال مقياسًا تنافسيًا لنماذج اللغات الكبيرة. أصدر فريق MiMo من Xiaomi للتو MiMo-V2.5-Pro-UltraSpeed، الذي تم تصميمه بالتعاون مع مجموعة أنظمة TileRT. يقوم بفك التشفير بشكل أسرع من 1000 رمز في الثانية على نموذج يحتوي على 1 تريليون معلمة. يصف فريق Xiaomi هذا بأنه الأول من نوعه على نطاق تريليون معلمة. تُظهر العروض التوضيحية أن ذروة الإنشاء تقترب من 1200 رمزًا في الثانية. الجزء الملحوظ هو الأجهزة: فهي تعمل على وحدات معالجة الرسومات السلعية، وليس السيليكون المخصص.
ما هو MiMo-V2.5-Pro-UltraSpeed
UltraSpeed هو وضع تقديم عالي السرعة لطراز MiMo-V2.5-Pro الحالي. يستخدم النموذج الأساسي بنية مزيج من الخبراء (MoE) بمقياس تريليون معلمة. تستهدف UltraSpeed سرعة التوليد بدلاً من قدرة النموذج. إنه يغير مدى سرعة إنتاج النموذج لرموز الإخراج. تأتي عملية التسريع من ثلاث تقنيات منسقة عبر النموذج ونظام التقديم. تُطلق شركة Xiaomi على هذا النهج اسم التصميم المتطرف لنظام النماذج. والأهم من ذلك، أن المجموعة بأكملها تعمل على عقدة سلعة قياسية واحدة ذات 8 وحدات معالجة رسومات.
حالة السرعة: ثلاث طبقات تعمل معًا
الطبقة الأولى هي التكميم FP4. على مقياس تريليون، تخلق أوزان FP8 أو FP16 ضغطًا ثقيلًا على الذاكرة وعرض النطاق الترددي. تتحرك الأوزان ذات عرض البت الأقل عبر الذاكرة بشكل أسرع، مما يؤدي إلى زيادة سرعة فك التشفير بشكل مباشر. تستخدم شركة Xiaomi تنسيق MXFP4، ويتم تطبيقه بشكل انتقائي على خبراء وزارة التعليم فقط. تحافظ الوحدات الأخرى على دقة أعلى، كما تم الإبلاغ عنها باسم FP8 بواسطة TileRT. يحتفظ الخبراء بمعظم المعلمات ويتحملون التكميم بشكل أفضل، وبالتالي فإن المقايضة مواتية. يحافظ التدريب المدرك للقياس الكمي (QAT) على جودة المعيار بشكل أساسي على قدم المساواة مع الجودة الأصلية.
الطبقة الثانية هي فك التشفير التخميني لـ DFlash، والتي سيتم تناولها بالتفصيل أدناه. الطبقة الثالثة هي TileRT، وهو النظام الذي ينفذ كل شيء على وحدة معالجة الرسومات. كل تقنية وحدها ليست كافية. تحتاج نتيجة 1000 TPS إلى محاذاة الثلاثة بإحكام.
DFlash: صياغة متوازية بدون عنق الزجاجة التسلسلي
يستخدم فك التشفير التخميني القياسي نموذجًا مسودة صغيرًا لتخمين الرموز المميزة القادمة. ثم يتحقق النموذج الكبير من تلك التخمينات بالتوازي. يؤدي أخذ عينات الرفض إلى إبقاء الإخراج مطابقًا لفك التشفير العادي، وبالتالي تكون الجودة بلا فقدان. المشكلة هي أن مسودة النموذج لا تزال تولد الرموز المميزة واحدة تلو الأخرى. DFlash، وهي طريقة من مجتمع البحث، تزيل هذا القيد. ويستخدم التنبؤ الموازي المقنع على مستوى الكتلة. يملأ نموذج المسودة كتلة كاملة من المواضع المقنعة في تمريرة أمامية واحدة.
قامت شركة Xiaomi بضبط DFlash باستخدام مُحسِّن Muon من الدرجة الثانية والتقطير الذاتي للنموذج. يستخدم النموذج الأولي نظام تنبيه النافذة المنزلقة (SWA) فقط، وهو ما يتوافق مع تصميم MiMo-V2. وهذا يجعل حساب كل تنبؤ ثابتًا بدلاً من النمو مع طول السياق. حجم الكتلة محدد بـ 8 للحد من تكلفة التحقق وزيادة التزامن.
يقيس طول القبول عدد الرموز المميزة التي نجت من التحقق في كل جولة.
| سيناريو | طول القبول |
|---|---|
| الترميز | 6.30 |
| الرياضيات / المنطق | 5.56 |
| عامل | 4.29 |
في البرمجة، يتم قبول ستة إلى سبعة من أصل ثمانية رموز مسودة في كل جولة. تصل بعض العينات إلى الحد الأقصى 7.14.
TileRT: ضغط الميكروثانية
وبسرعة 1000 TPS، يعمل كل مشغل لمدة ميكروثانية فقط. تطلق الأنظمة التقليدية المشغلين واحدًا تلو الآخر، وكل عملية إطلاق تكلف وقتًا. تؤدي هذه الفجوات إلى كسر مسار التنفيذ وتصبح عنق الزجاجة الحقيقي. يستبدل TileRT هذا بـ Persistent Engine Kernel الذي يظل موجودًا على وحدة معالجة الرسومات. يستخدم Warp Specialization لتقسيم حركة البيانات والحوسبة والاتصالات إلى أدوار منسقة. تتحول العمليات الصغيرة مثل عمليات الكتابة في ذاكرة التخزين المؤقت RMSNorm وRoPE وKV إلى اختناقات على هذا النطاق. تم تصميم النظام بشكل مشترك مع خيارات FP4 وDFlash، ولم تتم إضافته بعد ذلك.
حالات الاستخدام
يستهدف الإصدار العمل الحساس لزمن الاستجابة حيث يؤدي الانتظار إلى كسر الحلقة:
- المنطق الموازي: قم بتشغيل العديد من مسارات Best-of-N أو مسارات البحث عن الأشجار خلال نفس وقت ساعة الحائط.
- وكلاء الترميز: يؤدي إنشاء التعليمات البرمجية بشكل أسرع إلى تقليل الانتظار بين خطوات الوكيل.
- حلقات القرار في الوقت الحقيقي: توليد إشارات التداول واعتراض الاحتيال والحوار المباشر.
- النماذج الأولية التفاعلية: تُظهر العروض التوضيحية لعبة Snake في حوالي 10 ثوانٍ وواجهة macOS في دقيقة واحدة تقريبًا.
هذه هي أحمال العمل المرتبطة بالإنتاجية حيث تكون سرعة الرمز المميز هي قيد الربط.
كيف يقارن
يتناقض الجدول الأول بين الطريقين لسرعة فك التشفير القصوى.
| يقترب | الأجهزة | كيف يتم تحقيق السرعة |
|---|---|---|
| المخ | تكامل مقياس الرقاقة (مخصص) | مقياس على رقاقة مخصصة واحدة |
| جروك | الهندسة المعمارية المخصصة | SRAM نقية على الرقاقة |
| ميمو × تيليرت | وحدات معالجة الرسومات السلعية (عقدة 8-GPU) | تصميم كود النظام النموذجي: FP4 + DFlash + TileRT |
يقارن الجدول الثاني النموذج القياسي بوضع UltraSpeed.
| البعد | ميمو-V2.5-برو | MiMo-V2.5-Pro-UltraSpeed |
|---|---|---|
| سرعة فك التشفير | خط الأساس | ~10× أسرع (1000+ TPS) |
| سعر | 1× | 3× |
| دقة الوزن | معيار | FP4 خبراء وزارة التربية والتعليم عبر قطر |
| فك التشفير | الانحدار الذاتي القياسي | DFlash فك التشفير التخميني |
| وصول | خطط النموذج القياسي | واجهة برمجة التطبيقات (API) فقط، تجربة قائمة على التطبيق |
| خطة الرمز المميز | المدعومة | غير معتمد |
الوصول والتسعير والمصدر المفتوح
يتم شحن UltraSpeed من خلال نافذة محدودة قائمة على التطبيقات. يتم تشغيل النسخة التجريبية لواجهة برمجة التطبيقات (API) في الفترة من 9 يونيو إلى 23 يونيو 2026. ويبلغ السعر 3 أضعاف معدل MiMo-V2.5-Pro القياسي، مقابل 10 أضعاف السرعة تقريبًا. إنها واجهة برمجة التطبيقات (API) فقط، وخطة الرمز المميز غير مدعومة. يحصل المستخدمون المعتمدون أيضًا على وصول مجاني للدردشة أثناء الفترة التجريبية. تنطبق حدود الدردشة: 10 إدخالات في قائمة الانتظار يوميًا، وجلسات مدتها 30 دقيقة، وإصدار خامل لمدة 5 دقائق. قامت شركة Xiaomi بفتح نقطة تفتيش MiMo-V2.5-Pro-FP4-DFlash على Hugging Face. يحتوي TileRT على وحدات محددة مفتوحة المصدر على GitHub.
نقاط القوة والقيود
نقاط القوة
- 1000+ TPS على طراز 1T بدون السيليكون المخصص.
- فك تشفير بدون فقدان من خلال أخذ عينات الرفض في DFlash.
- يتم تطبيق FP4 فقط عندما يكون التسامح أعلى، مع الحفاظ على الجودة.
- تتيح نقطة التفتيش المفتوحة للمجتمع اختبار المطالبات.
القيود
- الوصول مسور وقصير ويعتمد على الموافقة عند الإطلاق.
- تسعير ثلاث مرات لكل رمز مقابل النموذج القياسي.
- تنخفض مدة القبول في المحادثة المفتوحة.
- التحقق المستقل من السرعة من طرف ثالث لم يتم نشره بعد.
الوجبات السريعة الرئيسية
- يقوم كل من Xiaomi MiMo وTileRT بفك تشفير نموذج يحتوي على تريليون معلمة يتجاوز 1000 رمز في الثانية على وحدات معالجة الرسومات السلعية.
- يأتي التسريع من ثلاث طبقات: تكميم FP4، وفك تشفير DFlash، ووقت تشغيل TileRT.
- يتم تطبيق FP4 (MXFP4) فقط على خبراء وزارة التربية والتعليم؛ تحافظ شركة QAT على القدرة بشكل أساسي على قدم المساواة.
- يتنبأ DFlash بوجود كتلة مقنعة كاملة لكل تمريرة أمامية، ليصل متوسط طول القبول إلى 6.30 في الترميز.
- يعمل UltraSpeed على عقدة واحدة مكونة من 8 وحدات معالجة رسومات عبر تجربة واجهة برمجة التطبيقات (API) المستندة إلى التطبيق، في الفترة من 9 إلى 23 يونيو 2026.
الشرح المرئي لـ Marktechpost
ماركتكبوست
أبحاث الذكاء الاصطناعي والنماذج وأدوات المطورين – مشروحة للمهندسين.
تحقق من الأوزان النموذجية و التفاصيل الفنية. أيضا، لا تتردد في متابعتنا على تغريد ولا تنسى الانضمام إلينا 150 ألف+ مل من SubReddit والاشتراك في النشرة الإخبارية لدينا. انتظر! هل أنت على برقية؟ الآن يمكنك الانضمام إلينا على التليجرام أيضًا.
هل تحتاج إلى الشراكة معنا للترويج لصفحة GitHub Repo أو صفحة الوجه المعانقة أو إصدار المنتج أو الندوة عبر الويب وما إلى ذلك؟ تواصل معنا
اكتشاف المزيد من كحيل | أخبار التقنية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
