AR ▾
احصل على مفتاح API

ما هو موجه نماذج اللّغة الكبيرة (LLM) وهل تحتاج إليه؟

ما هو موجه نماذج اللّغة الكبيرة (LLM)؟ إنه طبقة تقع بين تطبيقك ونماذج لغوية متعددة، وتقرر، لكل طلب، النموذج الذي يجب أن يجيب. هذا الموقع ليس واحداً: فهو يقدم نموذجاً واحداً خلف نقطة نهاية واحدة، ويشرح قسم "التوافق" كيف يرتبط الاثنان ببعضهما.

تم التحديث

تقاطع مسارات متوازي ينفصل فيه خط واحد إلى عدة وجهات، يوضح كيف يوجّه موجه نماذج اللّغة الكبيرة (LLM) الطلبات

الفكرة بالمصطلحات البسيطة

التطبيق الذي يستدعي نموذجاً لغوياً يحتوي على توصيل بسيط: يخرج الطلب إلى مزوّد واحد ويعود الجواب. يضيف الموجه خطوة قرار في المنتصف. يصل الطلب أولاً إلى الموجه، الذي يفحصه ويختار وجهة من قائمة النماذج، ثم يمرّره ويعيد الجواب. من جانب التطبيق، لا يزال هناك نقطة نهاية واحدة وتنسيق طلب واحد، عادةً تنسيق دردشة OpenAI، لأن هذا التنسيق هو العامل المشترك.

السبب في إضافة هذه الخطوة هو اختلاف النماذج. بعضها رخيص وسريع لكنه أضعف في الاستدلال. وبعضها قوي لكنه بطيء ومكلف. وبعضها يتبع قواعد المحتوى التي تحظر مواضيع معينة، والبعض الآخر لا يفعل. اختيار ثابت واحد هو حل وسط لكل طلب. يسمح لك الموجّه باتخاذ القرار لكل طلب على حدة بدلاً من ذلك.

احذر من هذا المصطلح. يُستخدم للإشارة إلى ثلاثة أشياء مختلفة على الأقل: سوق مستضاف يعرض العديد من النماذج خلف مفتاح واحد، مكتبة أو بوابة تشغلها بنفسك، ومصنّف مُدرَّب يتنبأ بالنموذج الذي سيتعامل مع المطالبة المعطاة بشكل جيد. تشترك هذه الأدوات في شكل "بوابة أمامية واحدة، ونماذج متعددة" لكنها تختلف في من يشغلها وكيفية اتخاذ القرار.

ما يفعله الموجه فعلياً

اختيار النموذج

الوظيفة الأساسية. يمكن أن تكون القواعد بسيطة: المطالبات التي تقل عن طول معين تُرسل إلى نموذج صغير، والمطالبات التي تحتوي على أكواد تُرسل إلى نموذج برمجة. يمكن أيضًا تعلمها، حيث يقيّم مصنّف صغير كل مطالبة ويحدد عتبة لقرار النموذج الذي سيحصل عليه.

التراجع

إذا عاد الاختيار الأول بخطأ أو انقضى الوقت المحدد، يحاول الموجه النموذج التالي في القائمة. يحمي هذا من أن يكون لدى مزوّد واحد ساعة سيئة، على حساب إجابات مختلفة قليلاً عندما يجيب نموذج الاحتياط.

توازن الحمل

توزيع حركة المرور عبر مفاتيح أو عمليات نشر متعددة لنفس النموذج بحيث لا يصبح حدّ المعدل الواحد هو سقفك.

واجهة واحدة

يعرض البائعون المختلفون تنسيقات طلبات مختلفة قليلاً. يقوم الموجه بتوحيد هذه التنسيقات، بحيث يكتب كودك طلبًا واحدًا. هذه هي الميزة التي يلاحظها معظم الفرق فعليًا يومًا بعد يوم.

التحكم في التكلفة والسياسة

إرسال الأعمال الروتينية إلى نموذج رخيص والحفاظ على النموذج المكلف للحالات الصعبة هو عادةً طريقة التوفير. التوجيه بالسياسة هو الاستخدام الآخر: المطالبات الحساسة تُرسل إلى مزود معتمد، وكل شيء آخر يُرسل إلى مكان آخر.

مقارنة استراتيجيات التوجيه

الاستراتيجيةكيف تقررالقوةالضعف
القواعد الثابتةالكلمات الرئيسية، الطول، فئة المستخدم، نقطة النهايةقابل للتنبؤ وسهل التصحيحيفوت الموجّهات التي لا تتناسب مع قواعدها
المصنفنموذج صغير يقيّم الصعوبة أو الموضوعيتكيف مع المدخلات المتنوعةيحتاج إلى بيانات مُعلَّمة ومراقبة خاصة به
التتابعجرّب نموذجًا رخيصًا، ثم انتقل إلى نموذج أقوى إذا بدا الجواب ضعيفًاوفّر مبالغ كبيرة على حركة المرور السهلةالحالات الصعبة تدفع ثمن طلبين
نسخة الاحتياط فقطبدّل النموذج عند فشل الطلببسيط، ويحسن التوافرلا يوفر أي توفير في التكلفة

ابدأ بقواعد ثابتة. فهي الأسهل في التحليل، ويمنحك تسجيل أي قاعدة تم تفعيلها البيانات التي تحتاجها لتقييم ما إذا كان بناء شيء أكثر ذكاءً يستحق العناء.

هل تحتاج إلى واحد؟

اطرح أربعة أسئلة قبل إضافة موجه.

  1. هل تختلف طلباتك كثيرًا في الصعوبة؟ إذا كانت كل الطلبات متشابهة، فإن نموذجًا واحدًا مختارًا جيدًا يتفوق على الموجه.
  2. هل فاتورة النموذج كبيرة بما يكفي لتحسينها؟ إذا كنت تنفق بضعة دولارات في الشهر، فإن وقت الهندسة يكلف أكثر من الوفورات.
  3. هل تحتاج إلى حماية من توقف المزود؟ يعد التحويل الاحتياطي (fallback) السبب الأكثر منطقية لاستخدام موجه حتى على النطاق الصغير.
  4. هل تحتوي المطالبات لديك على قيود محتوى مختلفة؟ بعض الفئات، مثل الخيال للبالغين أو لعب الأدوار الناضج، ترفضها العديد من الخدمات العامة. إرسال هذه المطالبات فقط إلى نموذج مُعدّل للاستخدام القانوني للبالغين، وترك الباقي في مكان آخر، هو حالة توجيه حقيقية.

إذا أجبت بـ «لا» على الأسئلة الأربعة، فتخطَّ الموجه. تضيف الطبقات الإضافية زمنًا إضافيًا، ومكانًا آخر للأخطاء، وسجلًا آخر للقراءة.

أين يناسب هذا الـ API

يُطلق على هذا الموقع اسم الموجهات، لذا تستحق هذه النقطة أن تُذكر بصراحة: الخدمة ليست موجهًا. إنها نموذج واحد مفتوح الأوزان، يشغّله مزوّد مستقل ومُضبط للإجابة بدون رفض المحتوى للاستخدام القانوني للبالغين. ليست واجهة برمجة التطبيقات الرسمية لأي بائع نماذج، ولا تعيد توجيه الطلبات إلى نماذج بائعين آخرين. تتصل بنقطة نهاية أساسية واحدة، https://api.llmrouterapi.com/v1، مع معرف نموذج واحد، uncensored.

هذا يجعلها مناسبة جيدًا كوجهة واحدة داخل موجه تشغله بالفعل، أو كواجهة خلفية واحدة لتطبيق لم يكن يحتاج إلى توجيه من قبل. نظرًا لأنها تتبع تنسيق دردشة OpenAI، فإن إضافتها إلى موجه يتطلب بضعة أسطر. الطرق هي POST /v1/chat/completions و GET /v1/models، ويعمل البث المتدفق، استدعاء الدوال ووضع JSON كما هو الحال في تنسيق OpenAI. هي للنصوص فقط: لا صور، صوت، تضمينات أو ضبط دقيق.

إذا كنت تقارنها بسوق متعدد النماذج، فاقرأ صفحة بديل OpenRouter. يمنحك السوق اختيارًا بين العديد من النماذج؛ هذا يمنحك نموذجًا واحدًا ذا غرض ضيق وسعرًا ثابتًا.

موجه بسيط في Python

يمكنك بناء موجه مفيد في بضعة أسطر باستخدام SDK الخاص بـ OpenAI، لأن كل وجهة تتحدث نفس البروتوكول. يرسل هذا الموجّه المطالبات التي تم تصنيفها على أنها تحتاج إلى معالجة محتوى غير مقيد للبالغين إلى نقطة النهاية هنا، والباقي إلى نموذج عام توفر عنوانه ومفتاحه.

import os
from openai import OpenAI, APIError

adult = OpenAI(
    base_url="https://api.llmrouterapi.com/v1",
    api_key=os.environ["LLMROUTER_API_KEY"],
    max_retries=3,
)
general = OpenAI(
    base_url=os.environ["GENERAL_BASE_URL"],
    api_key=os.environ["GENERAL_API_KEY"],
)

def route(messages, category):
    if category == "fiction_adult":
        return adult, "uncensored"
    return general, os.environ["GENERAL_MODEL"]

def ask(messages, category):
    client, model = route(messages, category)
    try:
        r = client.chat.completions.create(model=model, messages=messages)
    except APIError:
        # fallback: try the other destination once
        client, model = (general, os.environ["GENERAL_MODEL"]) if client is adult else (adult, "uncensored")
        r = client.chat.completions.create(model=model, messages=messages)
    return r.choices[0].message.content

عامل علامة الفئة كقرار لتطبيقك الخاص، على سبيل المثال بناءً على ميزة المنتج التي يستخدمها المستخدم، وليس كشيء يُستنتج من النص. التوجيه الصريح أسهل في الاختبار من التوجيه المستنتج. تنطبق قاعدة القاصرين على نقطة النهاية هذه بغض النظر عن المسار: محتوى جنسي يتضمن قاصرين غير مسموح به أبدًا.

تفاصيل تشغيلية عند التوجيه

حدود المعدل تكون لكل مفتاح ولكل مزوّد، لذا يجب أن يعرف الموجه هذه الحدود. يسمح مفتاح كامل هنا بـ 8 طلبات متزامنة و300 في الدقيقة، ويسمح مفتاح تجريبي بـ 2 و60. تجيب الواجهة بـ 429 مع الرمز rate_limited أو concurrency عند تجاوز هذه الحدود. يحدد 429 مع Retry-After: 5 الحمل الزائد المؤقت. رد الفعل الصحيح هو الانتظار أو وضع الطلبات في طابور، وليس التحويل الفوري، وإلا ستدفع كل حركة المرور إلى المسار الاحتياطي الخاص بك بسبب طفرات مدتها خمس ثوانٍ.

يحتاج البث المتدفق إلى ملاحظة: يحمل الطلب المتدفق فتحة التزامن الخاصة به حتى ينتهي البث، لذا فإن العملاء البطيئين يقللون من الإنتاجية. سجّل رأس X-Request-Id لكل استدعاء، حتى يمكن تتبع الجواب السيئ إلى وجهة.

من حيث التكلفة، السعر هو $0.15 لكل مليون رمز إدخال و$0.50 لكل مليون رمز إخراج من رصيد مسبق الدفع، لذا يمكن للموجه حساب الإنفاق لكل مسار من حقل usage. يتم شحن الرصيد من $20 إلى $500 بالعملات المشفرة، مع مكافآت من $50؛ انظر صفحة الأسعار. ابدأ بـ دليل التكامل السريع، و احصل على مفتاح API للمطالبة بـ $0.50 من رصيد تجريبي مجاني.

أسئلة وأجوبة

ما هو الفرق بين موجه LLM وبوابة API؟

تقوم البوابة بتوجيه حركة المرور والتحكم فيها نحو مزود واحد أو أكثر. يضيف الموجّه قرار النموذج الذي يجب أن يتعامل مع كل طلب. تجمع العديد من المنتجات بين الاثنين.

هل هذه API هي موجّه؟

لا. إنها تقدم نموذجًا واحدًا، معرفه uncensored، من نقطة نهاية واحدة. لا تقوم بالتوجيه بين البائعين، وليست API رسمية لأي بائع.

هل يمكنني استخدامه داخل موجّه خاص بي؟

نعم. تتبع تنسيق دردشة OpenAI، لذا يمكنك إضافتها كوجهة مع عنوان URL الأساسي ومفتاح API ومعرف النموذج.

هل يجعل الموجّه الإجابات أفضل؟

ليس بمفرده. يمكنه خفض التكلفة وتحسين التوفر، لكن الجودة تعتمد على النماذج التي توجه إليها الطلبات والقواعد التي تكتبها.

مفتاحك على بُعد استمارة واحدة

أنشئ حساباً، وانسخ المفتاح، ثم غيّر URL الأساسي. هذه هي الإعدادات الكاملة.

احصل على مفتاح APIاقرأ التوثيق