تسجيل الدخولتسجيل الدخولالاشتراكسجّل مجانًاتحدث مع قسم المبيعات

تفترض كل مختبرات الذكاء الاصطناعي أن زيادة عدد اللغات تجعل أداء النموذج أسوأ.نحن نراهن على العكس تمامًا.

نشأ Lara Mini كنموذج لغوي كبير (LLM) للأغراض العامة يدعم Lara 4 Translation AI، وصُمّم منذ البداية ليكون النموذج الأكثر تعددًا للغات والثقافات.
في نهاية تدريبها على 6 تريليون رمز (token)، تحتل المرتبة الأولى من بين 36 نموذجًا في فئتها على مستوى العالم.

احصل على التقرير الفنياحصل على النموذج

Translated · القصة وراء Lara

التنوّع ليس عبئًا على الذكاء. بل هي مصدر لها.

  • الاعتقاد

    تُدرّب المختبرات الكبرى نماذجها في الغالب على اللغة الإنجليزية، وتتعامل مع اللغات والثقافات الأخرى على أنها ضوضاء تُكلِّفها تنازلات في الجودة.

  • الرهان

    قامت Translated، التي تتمثّل مهمتها في الترجمة، ببناء Lara بالاعتماد على نصوص حقيقية مكتوبة بعدّة لغات وثقافات. من خلال رؤية فكرة واحدة عبر العديد من اللغات والثقافات، يفهم النموذج هذه الفكرة بشكل أفضل.

  • الدليل

    المرتبة الأولى من بين 36 نموذجًا تضم ما يصل إلى 2 مليار معامل نشط على مستوى العالم، وقد تم تدريبها على 6 تريليون رمز (token)، وسياق بطول 128 ألف رمز.

نظرة سريعة على العملية

البنية

  • 0.6Bالمعلمات النشطة لكل رمز (4 خبراء)
  • 7.2Bإجمالي المعلمات، Mixture of Experts مع 128 خبيرًا، 1 مشترك
  • 34الطبقات: الذاكرة (GDN)، النافذة والانتباه العالمي
  • 128 ألفعدد الرموز (tokens) في نافذة السياق

البيانات

  • 6Tالرموز المستخدمة في التدريب
  • 39%من الرموز (tokens) الأولية التي خضعت للتصفية
  • 44 + ENاللغات، جميع اللغات الرسمية الـ 24 للاتحاد الأوروبي
  • 151,643رموز في المفردات، إعادة توازن اللغات ذات الموارد المنخفضة

كيف أنشأناها

تصميم هجين ومقتصد لأكثر النماذج تعددًا للغات

نموذج هجين ومتفرق: 34 طبقة، 128 خبيرًا

ثلاثة أنواع من الطبقات، ووحدة متكررة واحدة

  • 14 ذاكرة · Gated DeltaNet: حالةُ اهتمامٍ خطية لكل رأس، تُحدَّثُ رمزًا تلو الآخر
  • 13 نافذة · تركيز الانتباه على آخر 512 رمزًا (token)، مواقع RoPE
  • 7 عالمي · انتباه كامل، بدون ترميز موضعي؛ الطبقة الأخيرة عالمية دائمًا

مزيج من الخبراء في كل طبقة

  • يتم اختيار 4 من أصل 128 خبيرًا موجهًا لكل رمز بواسطة جهاز توجيه
  • 1 خبير مشترك نشط دائمًا
  • 0.6 مليار من أصل 7.2 مليار معامل نشطة لكل رمز مميز؛ حجم الطبقة المخفية 1,024، وتضمينات دخل وخرج مرتبطة

المُحسّن

Muon + AdamW

يتم إجراء عملية التعامد (Newton–Schulz) على كل تحديث للزخم قبل تطبيقه، بحيث تتحرك كل اتجاهات مصفوفة الأوزان بوتيرة مماثلة بدلاً من هيمنة عدد قليل منها.

نافذة سياق من 4,096 رمزًا أثناء التدريب؛ ومفردات من 151,643 رمزًا.

النموذج الأكثر تعددًا للغات والثقافات

6 تريليون رمز تدريب من مجموعة تم إزالة التكرارات منها عبر جميع المصادر: تم استبعاد 39% من الرموز الأولية (raw tokens) عن طريق الترشيح. لا يُكرّر أي مصدر لأكثر من دورتين (باستثناء مصادر الويكي والرياضيات عالية الجودة)؛ ولا يُكرّر محتوى الويب العادي على الإطلاق.

  • اللغة الإنجليزية2.49Tبيانات عالية الجودة من الويب 1.34T · بيانات اصطناعية عالية الجودة 0.66T · ملفات PDF 0.32T · ويب متوسط الجودة 0.15T · ويكي 0.02T
  • متعدد اللغات2.18Tالويب 0.79T · بيانات عالية الجودة من الويب 0.66T · ملفات PDF 0.4T · مصطنع 0.28T · ويكي 0.05T
  • البرمجة0.77Tكود حقيقي 0.45T · مصطنع 0.31T
  • الرياضيات0.35Tالرياضيات – المقر الرئيسي 0.21T · الرياضيات على الويب 0.15T
  • على غرار SFT0.21Tالأسئلة والأجوبة 0.12T · الرياضيات 0.07T · البرمجة 0.02T

ثلاث مراحل، انخفاض واحد لمعدل التعلّم

  1. الرئيسية · 4.8T0–80% · إلى الخطوة 572.2k
  2. المرحلة الانتقالية · 0.6T80–90% · إلى الخطوة 643.7k
  3. مرحلة التلدين (Anneal) · 0.6T90–100% · إلى الخطوة 715.3k
جدول معدل التعلمالنموذج الذي خضع للتقييم: نهاية التدريب، 6T توكن.

تمثّل كل مرحلة مزيجًا منفصلًا من البيانات يتم تحميله عند حدّ الخطوة الخاصة بها. الانتقال: جسر بين المرحلتين عند معدل تعلّم ثابت، حيث يكون المزيج قد انتقل بالفعل إلى منتصف الطريق نحو مرحلة التلدين (بيانات ذات جودة أعلى، وأسئلة وأجوبة، وبرمجة، ورياضيات)، بحيث يتكيّف النموذج قبل بدء انخفاض معدل التعلّم. Anneal: المزيج الأعلى جودة، بينما يتناقص معدل التعلم إلى الصفر خلال آخر 10%.

تميل كل مرحلة بشكل أكبر نحو البرمجة والرياضيات والبيانات الشبيهة بالتدريب الخاضع للإشراف (SFT).

حصة الرموز (tokens) في كل مرحلة. تُخلط البيانات عشوائيًا، ولا تُغذَّى مجالًا تلو الآخر: كل دفعة تتكوّن من 2,048 تسلسلاً تجمع جميع المجالات تقريبًا بهذه النسب. مشابه لـ SFT (بيانات الأسئلة والأجوبة والرياضيات وتعليمات البرمجة): 2% في المرحلة الرئيسية، و3.5% على مدار التشغيل بأكمله.

المنهجية

26 معيارًا، إطار اختبار واحد، كل نموذج

الإجمالي = ¼ اللغة الإنجليزية + ¼ اللغات المتعددة + ¼ الرياضيات + ¼ البرمجة. نقوم بتقييم كل نموذج باستخدام lm-evaluation-harness ومع تطبيق التصحيحات نفسها المتعلقة بتنسيق الإجابات. يُحتسب متوسط كل معيار أداء متعدد اللغات بناءً على لغات التدريب الـ 44 غير الإنجليزية لدينا.

  • الإنجليزية10

    • NLI
    • PAWS
    • Belebele (en)
    • COPA
    • PIQA
    • HellaSwag
    • WinoGrande
    • ARC-C
    • MMLU
    • MMLU-Pro

  • متعدد اللغات9

    • XNLI
    • PAWS-X
    • Belebele
    • XCOPA
    • Global PIQA NP
    • Global PIQA P
    • T-HellaSwag
    • INCLUDE
    • Global MMLU

  • الرياضيات3

    • GSM8K
    • MATH
    • MGSM

  • البرمجة4

    • MBPP
    • MBPP+
    • CRUX-I
    • CRUX-O

ممنوع الإطلاع المسبق: في مرحلة التدريب النهائية، يتم تخطي كل مستند يحتوي على عنصر من عناصر القياس المعياري.

النتائج

المرتبة الأولى من أصل 36 بين النماذج الصغيرة على مستوى العالم

المركز الأول في التصنيف العام وفي فئتي النص واللغات المتعددة، متقدمًا بـ 3.1 نقاط على granite-4.0-h-tiny في التصنيف العام.

الإجمالي

ترتيب النماذج الصغيرة

#1

من أصل 36 نموذجًا

ترتيب الفئات

  • الرياضيات والبرمجة#1
  • نص#1
  • متعدد اللغات#1

تعريف المعيار. يمثّل نموذجنا نقطة التحقق النهائية لدورة تدريب 6T‑token، مع سياق موسّع إلى 128K؛ وتتخطّى عملية التهذيب (anneal) كل مستند يحتوي على عنصر معيار. فئتها: النماذج التي تحتوي على ما يصل إلى 2B من المعلمات النشطة (gemma-4-E2B بحجمها الفعّال البالغ 2B). يتم حساب متوسط الدرجات متعددة اللغات عبر 44 لغة غير الإنجليزية التي ندرب عليها، وذلك لكل نموذج.

الترتيبات

أفضل 12 نموذجًا صغيرًا

36 نموذجًا تضم ما يصل إلى 2B من المعلمات النشطة (gemma-4-E2B بحجمه الفعّال البالغ 2B، وإجمالي 5.1B). متعدد اللغات على لغات التدريب لدينا. تبدأ الأعمدة من 0.

  1. #1Lara Mini Base (A0.6B/7.2B)57.0
  2. #2IBM - granite-4.0-h-tiny (1B active)53.9
  3. #3Alibaba - Qwen3-1.7B53.8
  4. #4Falcon-H1-1.5B-Deep53.2
  5. #5Hunyuan-1.8B52.2
  6. #6LFM2.5-8B-A1B (1.7B active)50.8
  7. #7Trinity-Nano (1B active)50.7
  8. #8LFM3-1.7B49.2
  9. #9Qwen3.5-2B48.9
  10. #10Falcon-H1-1.5B48.8
  11. #11Qwen2.5-1.5B47.6
  12. #12granite-4.0-1b47.2
  13. #17Google - gemma-4-E2B41.9

الإجمالي = ¼ اللغة الإنجليزية + ¼ اللغات المتعددة + ¼ الرياضيات + ¼ البرمجة.

الكفاءة

المرتبة الأولى ضمن فئة النماذج التي يقل حجمها عن 2 مليار معامل، مع 0.6 مليار معامل نشط فقط

يتفوّق Lara Mini Base على جميع النماذج الـ35 الأخرى في فئته، بما في ذلك النماذج التي تستخدم ما يصل إلى 3 أضعاف عدد المعلمات النشطة، مثل Qwen3-1.7B وgemma-4-E2B.

20304050600.5B1B2BLara Mini Base (A0.6B/7.2B) · 57.0granite-4.0-h-tiny · 53.9gemma-4-E2B
النتيجة الإجمالية مقابل عدد المعلمات النشطة، على مقياس لوغاريتمي. يمثّل الخط المتدرّج الحدّ الفاصل: لا يوجد نموذج يحتوي على عدد أقل من المعلمات النشطة يحقّق نتيجة أعلى. يتم تمثيل gemma-4-E2B بحجمه الفعّال البالغ 2B (إجمالي 5.1B).

إصدار محدود · من يحصل عليه

ما الغرض من Lara Mini

  • تطبيق Lara Translate

    الترجمة دون اتصال بالإنترنت

    Lara Mini هو النموذج الأساسي الذي يدعم ميزة الترجمة دون اتصال بالإنترنت في Lara 4، والمخصصة لتطبيق Lara Translate القادم. لا يغادر نصك الهاتف أبدًا، ولا تزال كل ترجمة تستغرق أقل من ثانية.

  • عملاء Translated

    نموذج لغوي كبير (LLM) أساسي صغير الحجم

    سيتم منح الوصول لعملاء Translated من الشركات الذين تم اختيارهم. صُمّم Lara Mini ليكون قابلًا للضبط الدقيق من أجل التطبيقات السيادية المتخصصة، ويعمل على الأجهزة المحمولة وعلى سحابتنا، ويوفّر زمن استجابة شاملًا أقل من 20 مللي ثانية، مع معالجة ملايين الرموز (tokens) في الثانية.

  • الأبحاث

    باحثون في مجال الذكاء الاصطناعي

    إتاحة الوصول للباحثين في مجال الذكاء الاصطناعي لإعادة إنتاج نتائجنا والبناء عليها، مما يتيح دفع البحث متعدد اللغات إلى آفاق أبعد.

ما الخطوة التالية؟

ثلاث مسابقات، قاعدة واحدة

نقوم بتدريب المرحلة التالية فقط إذا فزنا بميدالية في المرحلة الحالية.

  1. المرحلة 1

    محلي

    صغير جدًا · <2B نشط

    نوفمبر 2026Lara Mini Base

    احصد الصدارة في فئة النماذج الصغيرة مع Lara Base (A0.6B/7.2B).

    ديسمبر 2026Lara Mini

    Lara 4 Mini وLara Mini LLM، لتوفير زمن استجابة منخفض للغاية وللأجهزة المحمولة.

    تم الفوز بميدالية → ندرب المرحلة الوطنية. في حال عدم الفوز بميدالية، نتوقف.

  2. المرحلة 2

    على المستوى الوطني

    صغير · <10B نشط

    مارس 2027Lara Piccola Base (A7B/138B)

    شارك في الفئة الصغيرة واربح ميدالية هناك أيضًا.

    أبريل 2027Lara 4 وLara Piccola LLM

    نموذج الترجمة Lara 4 ونموذج اللغة الكبيرة Lara Piccola، وهو نموذج A7B/138B ذو سيادة أوروبية.

    تم الفوز بميدالية → ننتقل إلى مرحلة التدريب للأولمبياد. إذا لم نحصل على ميدالية، فإننا نتوقف.

  3. المرحلة 3

    الألعاب الأولمبية

    المستوى الرائد · أكثر من 40 مليار نشط

    ديسمبر 2027Lara Grande Base (A60B/1.2T)

    ادخل فئة النماذج المتطورة، وتنافس مع أفضل النماذج في العالم.

    مارس 2028Lara 5 وLara Grande LLM

    يتفوّق Lara 5 على المترجمين المحترفين من فئة P95. Lara Grande: نموذج لغوي كبير (LLM) رائد تابع للاتحاد الأوروبي، يتفوّق على النماذج الصينية ويقترب من مستوى Anthropic وOpenAI.

النماذج المرجعية: tiny Gemma 4 E2B · small Gemma 4B/26B · medium Qwen 17B/397B · frontier GPT-6 Astra، Claude 5.6، Kimi K3.

ميزانية التدريب

ميزانيات التدريب لعملية تشغيل واحدة، والإصدارات التالية

النموذجالرموز (tokens)FLOPsالأجهزةالأيامتكلفة التدريب
Lara 4 PiccolaMoE 6.7B / 138B20T8.0 × 10²³512 × H10031$1.0M
Lara 4 GrandeMoE 60B / 1.2T24T8.6 × 10²⁴512 × Vera Rubin25$2.4M
Lara 4 SaggiaMoE 600B / 12T36T1.3 × 10²⁶2,304 × Vera Rubin83$36.6M
للاطلاع كمرجع
الحدود النموذجيةMoE 150B / 3T36T3.2 × 10²⁵4,096 × B20051$18.8M

المصدر: تخطيط ميزانية تدريب Lara 4 LLM، 3 نوفمبر 2026 · FP8 · تكلفة الحوسبة فقط · عدد أيام Saggia المقدّر باستخدام طريقة الخطة

التدريب التالي

مرشّحة Lara Piccola

60 طبقة و138 مليار معامل: النموذج المصمم لتجاوز Gemma 4 31B.

  • 138Bإجمالي المعلمات
  • 6.7Bنشطة لكل رمز (token)
  • مُجزِّئجديد، معاد موازنة
  • 60الطبقات
  • 2816الحجم المخفي
  • 512 × 512الخبراء، أفضل 8 + 2 مشتركين
  • 400kساعات وحدات معالجة الرسومات H100 لـ 20T رمزًا (token)
  • 30 يومًاعلى 512 وحدة معالجة رسومات H100
  • $1Mتكلفة دورة التدريب

  • الهدف: الفوز في فئة النماذج الصغيرة (<10B نشطة)

    الرواد الحاليون: Qwen3.5-122B-A10B، GLM-4.5-Air

  • الهدف: التفوق على Gemma 4 31B في الأداء متعدد اللغات

    التفوّق على النماذج الكثيفة عالية التعدّدية اللغوية ضمن فئة النماذج المتوسطة.

30.7 ثانية لكل خطوة عند 32 عقدة · نفس آلية الانتباه الهجين المستخدمة في Lara Mini Base (GDN، نافذة، عالمي)

تقرير فني

احصل على التقرير الفني

البنية وبيانات التدريب والمعايير المرجعية والمنهجية التي تقوم عليها Lara Mini Base، في وثيقة واحدة. اترك بياناتك وسنرسلها إليك عبر البريد الإلكتروني.

أوافق على أن تتصل بي لارا للحصول على مزيد من المعلومات والعرض التوضيحي. لقد قرأت وأوافق على سياسة الخصوصية*

العمل مع Lara

طريقتان لوضع Lara في الخدمة

  • هل أنت مهتم بالنموذج التوليدي؟

    سيتم منح الوصول لعملاء Translated من الشركات الذين تم اختيارهم. صُمِّمت Lara Mini لتكون قابلة للضبط الدقيق من أجل التطبيقات السيادية المتخصصة، وتعمل على الأجهزة المحمولة وعلى سحابتنا، حيث توفر زمن استجابة شاملًا أقل من 20 مللي ثانية، مع معالجة ملايين الرموز (tokens) في الثانية.

    الاتصال بقسم المبيعات

  • الترجمة باستخدام Lara

    ترجم النصوص والمستندات والمحادثات باستخدام Lara، أداة الترجمة المبنية على هذا البحث.

    ابدأ استخدام Lara للترجمة