يقوم Liquid AI بشحن LFM2.5-230M مع دعم llama.cpp وMLX وvLLM وSGLang وONNX للاستدلال على الجهاز

تم شحن الذكاء الاصطناعي السائل LFM2.5-230M، إنه أصغر طراز للشركة حتى الآن. يستهدف الإصدار وظيفة محددة: تشغيل مهام الوكيل على الهواتف والروبوتات وأجهزة التشغيل الآلي. تتميز كل من نقاط التفتيش الأساسية ونقاط التفتيش المضبوطة بالتعليمات بأنها ذات وزن مفتوح على Hugging Face.

الملعب ضيق عن قصد. هذا ليس نموذج المنطق العام. إنه مصمم لاستخراج البيانات واستخدام الأدوات على الأجهزة المتطورة.

ليرة تركية؛ د

• يعتبر LFM2.5-230M الخاص بـ Liquid AI هو أصغر طراز حتى الآن: 230 مليون معلمة، وزن مفتوح، مبني على LFM2.
• يعمل على الجهاز بسرعة 213 tok/s على Galaxy S25 Ultra و42 على Raspberry Pi 5.
• يتفوق على النماذج الأكبر (Qwen3.5-0.8B، Gemma 3 1B) من خلال اتباع التعليمات واستخراج البيانات.
• تم ضبطها لاستخدام الأداة واستخراجها؛ ليس للرياضيات أو توليد الأكواد أو الكتابة الإبداعية.
• دعم اليوم الأول عبر llama.cpp، وMLX، وvLLM، وSGLang، وONNX، بمساحة تتراوح بين 293 و375 ميجابايت.

ما هو LFM2.5-230M؟

LFM2.5-230M هو نموذج نصي فقط يحتوي على 230 مليون معلمة. إنه مبني على بنية LFM2. يحتوي النموذج على 14 طبقة. ثمانية عبارة عن كتل إلتواء LIV ذات بوابات مزدوجة. أما الستة المتبقية فهي كتل اهتمام الاستعلامات المجمعة (GQA). يستهدف التخطيط المختلط الاستدلال السريع لوحدة المعالجة المركزية.

طول السياق هو 32,768 رمزًا. حجم المفردات هو 65,536. قطع المعرفة هو منتصف عام 2024. وهو يدعم عشر لغات، بما في ذلك الإنجليزية والصينية والعربية واليابانية.

يقوم فريق Liquid AI بشحن نقطتي تفتيش. LFM2.5-230M-Base هو النموذج المُدرب مسبقًا للضبط الدقيق. LFM2.5-230M هو الإصدار المضبوط للتعليمات للأغراض العامة. الترخيص هو lfm1.0.

التدريب وما بعد التدريب

تم تدريب النموذج مسبقًا على 19 تريليون رمز. يتضمن هذا الإجمالي مرحلة تمديد سياق 32 كيلو بايت. يتم بعد ذلك تنفيذ وصفة ما بعد التدريب على ثلاث مراحل.

يأتي أولاً الضبط الدقيق تحت الإشراف مع التقطير من LFM2.5-350M الأكبر. الثاني هو تحسين التفضيل المباشر (DPO). والثالث هو التعلم المعزز متعدد المجالات. وهذا يحافظ على المرونة للتخصص المصب.

إن خطوة التقطير هي ما يجعل طراز 230M قادرًا على المنافسة مع نقاط التفتيش الأكبر. إنه يرث السلوك من LFM2.5-350M الأكبر في المهام المستهدفة.

المعيار

قام فريق Liquid AI بتقييم LFM2.5-230M عبر عشرة معايير. وهي تشمل المعرفة ومتابعة التعليمات واستخراج البيانات واستخدام الأدوات.

والنتائج التالية للتعليمات تدعم ذلك. في IFEval، حصل LFM2.5-230M على 71.71. وهذا يتفوق على Qwen3.5-0.8B (59.94) وGemma 3 1B IT (63.49). على IFBench، حصل على 38.40، متقدمًا على كليهما. وفي CaseReportBench، وهو اختبار لاستخراج البيانات السريرية، حصل على 22.51.

يؤدي LFM2.5-230M إلى اتباع التعليمات واستخراج البيانات. إنه يتبع معرفة واسعة: MMLU-Pro هو 20.25، خلف Qwen3.5-0.8B’s 37.42. كما أنه ضعيف في بعض استخدامات الأدوات الوكيلة. في τ²-Bench Telecom سجلت 5.26 فقط.

الذكاء الاصطناعي السائل مباشر فيما يتعلق بالحدود. ولا ينصح بالنموذج لأحمال العمل ذات الاستدلال الثقيل. وهذا يعني الرياضيات المتقدمة وتوليد الأكواد والكتابة الإبداعية.

استخدام الحالات مع الأمثلة

النموذج يناسب وظيفتين بشكل جيد.

• الأول هو خطوط أنابيب استخراج البيانات على نطاق واسع. تصور خط أنابيب يقوم بتحليل 100000 تقرير سريري في مجالات منظمة. يعمل الإصدار 4 بت بمساحة ذاكرة تبلغ 293-375 ميجابايت على تشغيل وحدات المعالجة المركزية السلعية. يمكنك الاستخراج محليًا، بدون فاتورة API لكل رمز مميز.

• المهمة الثانية هي أعباء العمل الوكيلة خفيفة الوزن على الجهاز. فكر في مركز التشغيل الآلي للمنزل الذي يحول الكلام إلى مكالمات للأدوات. أو مساعد الهاتف الذي يوجه الطلب إلى الوظيفة الصحيحة.

كإشارة مبكرة، قامت شركة Liquid AI بنشر النموذج على الروبوت الآلي Unitree G1. تم تشغيله بالكامل على متن الروبوت NVIDIA Jetson Orin. هناك كان النموذج بمثابة طبقة اختيار المهارات. لقد حولت تعليمات واحدة باللغة الطبيعية إلى سلسلة من استدعاءات الأدوات. استدعت هذه المكالمات مهارات منخفضة المستوى من إطار عمل SONIC الخاص بـ NVIDIA.

يدعم LFM2.5 استدعاء الوظائف في أربع خطوات. يمكنك تعريف الأدوات على أنها JSON في موجه النظام. يكتب النموذج استدعاء دالة بايثونية بين الرموز المميزة. يمكنك تنفيذ المكالمة وإرجاع النتيجة. ثم يكتب النموذج إجابة نصية عادية.

بشكل افتراضي، المكالمة هي قائمة بايثون. يقع بين <|tool_call_start|> و <|tool_call_end|> الرموز. هذا هو النمط الموثق، مع اختصار الأداة JSON:

<|im_start|>system
List of tools: [{"name": "get_candidate_status",
  "parameters": {"candidate_id": {"type": "string"}}}]<|im_end|>
<|im_start|>user
What is the current status of candidate ID 12345?<|im_end|>
<|im_start|>assistant
<|tool_call_start|>[get_candidate_status(candidate_id="12345")]<|tool_call_end|>Checking the current status of candidate ID 12345.<|im_end|>

يمكنك أيضًا فرض مكالمات بتنسيق JSON من خلال موجه النظام.

تشغيله: مثال الحد الأدنى

يعمل النموذج مع Transformers 5.0.0 وما فوق. إعدادات التوليد الموصى بها هي درجة الحرارة 0.1، وtop_k 50، وrepetition_penalty 1.05. ملاحظة do_sample=True العلامة، وهي مطلوبة لتطبيق إعدادات أخذ العينات تلك.

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "LiquidAI/LFM2.5-230M"
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    dtype="bfloat16",
)
tokenizer = AutoTokenizer.from_pretrained(model_id)

inputs = tokenizer.apply_chat_template(
    [{"role": "user", "content": "What is C. elegans?"}],
    add_generation_prompt=True,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
).to(model.device)

output = model.generate(
    **inputs,
    do_sample=True,
    temperature=0.1,
    top_k=50,
    repetition_penalty=1.05,
    max_new_tokens=512,
)
print(tokenizer.decode(output[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True))

ينشر Liquid AI أيضًا وصفات دقيقة. أنها تغطي SFT، DPO، وGRPO مع LoRA، عبر Unsloth وTRL. يتم شحن كل منها كدفتر ملاحظات من كولاب.

الشرح التفاعلي

تحقق من وزن النموذج على التردد العالي, التفاصيل الفنية و المستندات. أيضا، لا تتردد في متابعتنا على تغريد ولا تنسى الانضمام إلينا 150 ألف + مل والاشتراك في النشرة الإخبارية لدينا. انتظر! هل أنت على برقية؟ الآن يمكنك الانضمام إلينا على التليجرام أيضًا.

هل تحتاج إلى الشراكة معنا للترويج لصفحة GitHub Repo أو صفحة الوجه المعانقة أو إصدار المنتج أو الندوة عبر الويب وما إلى ذلك؟ تواصل معنا