بوابة واحدة إلى 45 نموذجًا من ستة مزوّدين للذكاء الاصطناعي، مع ضوابط الحماية والتتبع
طبقة نماذج موحدة تتيح للفرق اختيار النماذج وتغييرها دون إعادة بناء سير العمل لديها، مع إدارة التوجيه والسياسات والتتبع في مكان واحد.
- الشريك
- شركة استشارات عالمية
- المدة
- من أكتوبر 2024 إلى يناير 2026
- نموذجًا للمحادثة
- 45
- متاحة للوكلاء الأذكياء من فهرس واحد
- مزوّدين
- 6
- OpenAI وAnthropic وGoogle وGroq وxAI وPerplexity
- بوابتان
- 2
- Portkey أو Helicone، ويُختار أحدهما عبر الإعدادات
التحدي
تتغير خيارات النماذج بسرعة. وسير العمل المكتوب وفق واجهة مزوّد واحد يصبح نقله مكلفًا، وحين يدير كل فريق مفاتيحه وسياساته بنفسه لا تبقى رقابة متسقة.
ما بنيناه
طبقة لإعدادات النماذج وبوابة تستخدمها خطوط المعالجة والوكلاء الأذكياء معًا. تختار الفرق المزوّد والنموذج من فهرس واحد، وتمر الطلبات عبر Portkey أو Helicone، وتُلحق سياسات ضوابط الحماية بكل وكيل على حدة، وتُتتبَّع سلاسل الوكلاء في LangSmith.
ما تم تسليمه
- 45 نموذجًا للمحادثة من ستة مزوّدين، إضافة إلى فهرس منفصل لنماذج الاستدلال
- توجيه عبر البوابة يمكن تبديله بين منتجين من خلال الإعدادات
- إعدادات متسقة لدرجة الحرارة (temperature) والبذرة (seed) وحدود الرموز (tokens)
نبذة عن الشريك
شريكنا شركة استشارات عالمية تتعامل فرقها مع كميات كبيرة من المستندات وجداول البيانات وقواعد البيانات والبريد الإلكتروني. وأراد الشريك منصة داخلية واحدة تبني فيها هذه الفرق خطوط معالجة البيانات والوكلاء الأذكياء بنفسها، بدلًا من التعاقد على تطبيق جديد لكل حاجة. وكان على المنصة أن تعمل داخل بيئة Microsoft 365 وAzure لدى الشريك، وأن تفصل عمل كل فريق عن غيره، وأن تنقل العمل من مرحلة التجربة إلى بيئة الإنتاج عبر بيئات خاضعة للرقابة.
التحدي
الارتهان لمزوّد واحد
لكل مزوّد حزمة SDK ومعاملات وأسماء نماذج خاصة به. والشيفرة المكتوبة لمزوّد لا تنتقل بسهولة إلى آخر عندما تتغير الأسعار أو الجودة أو التوافر.
غياب نقطة تحكم واحدة
من دون طبقة مشتركة، تُدار المفاتيح والاستخدام وسياسات السلامة بطريقة مختلفة في كل سير عمل.
وضوح الرؤية
يصعب تصحيح أخطاء الوكلاء متعددي الخطوات دون سجل لكل استدعاء للنموذج ومدخلاته.
الأهداف
- إتاحة نماذج كثيرة من خلال إعدادات موحدة ومتسقة
- توجيه حركة طلبات النماذج عبر بوابة قادرة على تطبيق السياسات
- إبقاء منتج البوابة قابلًا للاستبدال
- تتبع سلاسل الوكلاء لتصحيح الأخطاء والمراجعة
دورنا
تولّت كارسنترك القيادة التقنية والبنية المعمارية ضمن فريق هندسي متعدد التخصصات، وشاركت مباشرة في التنفيذ. بُنيت المنصة على مدى 16 شهرًا، من أكتوبر 2024 إلى يناير 2026، بنظام خلفي يعتمد على Python وFastAPI ويعمل على Azure.
النطاق والجدول الزمني
بُني تكامل البوابة وضوابط الحماية بين ديسمبر 2024 ومايو 2025. ووُسّع فهرس نماذج الوكلاء بين يونيو وسبتمبر 2025.
المنهجية
الإعدادات بدلًا من الشيفرة
يُوصف كل نموذج بمزوّده واسمه ومجموعة صغيرة من إعدادات السلوك. فتغيير النموذج تغيير في الإعدادات، لا في الشيفرة.
واجهة برمجية للبوابة
ينفّذ كل من Portkey وHelicone واجهة خدمة ضوابط الحماية نفسها. ويختار مصنع برمجي (factory) أحدهما وفق الإعدادات، فيمكن تغيير البوابة دون المساس بالوكلاء.
السياسات خارج الشيفرة
تُعرَّف سياسات ضوابط الحماية في البوابة، وتُلحق بالوكيل بالإشارة إليها. ولا يتطلب تغيير السياسات إعادة النشر.
التنفيذ
فهرس النماذج
45 نموذجًا للمحادثة من OpenAI وAnthropic وGoogle وGroq وxAI وPerplexity، من GPT-5 وClaude إلى Gemini وLlama وGrok وSonar، إضافة إلى فهرس منفصل لنماذج الاستدلال.
إعدادات السلوك
يجري التحقق من درجة الحرارة، والبذرة (seed) للحصول على مخرجات قابلة للتكرار، والحد الأقصى للرموز، قبل إنشاء النموذج.
المكوّن الفرعي لضوابط الحماية
عند إلحاقه بوكيل، يضبط عنوان البوابة والترويسات بحيث يمر كل استدعاء للنموذج من ذلك الوكيل عبر السياسة المهيأة.
التتبع
يمكن إدارة سلاسل الوكلاء وتتبعها في LangSmith، مما يوفر سجلًا خطوة بخطوة للموجّهات والاستجابات والتوقيت.
الأدوات والتقنيات
| الأداة | الغرض |
|---|---|
| Portkey | بوابة النماذج وضوابط الحماية |
| Helicone | بوابة بديلة |
| LangChain | واجهة نماذج لا ترتبط بمزوّد محدد |
| LangSmith | إدارة السلاسل وتتبعها |
| Pydantic | إعدادات نماذج يجري التحقق منها |
ما تم تسليمه
- نموذجًا للمحادثة
- 45
- مزوّدين
- 6
- خياران للبوابة
- 2
- فهرس واحد
- 1
- فهرس نماذج واحد تتشاركه خطوط المعالجة والوكلاء
- توجيه عبر بوابة يمكن استبدال منتجها
- سياسات ضوابط حماية تُلحق بكل وكيل عبر الإعدادات
- تتبع سلاسل الوكلاء
لماذا يهم ذلك
اختيار النموذج قرار ستعود إليه المؤسسات مرات كثيرة. والبوابة والإعدادات المشتركة تُبقيان تغيير هذا القرار قليل الكلفة، وتُبقيان الرقابة في مكان واحد.
إذا كانت مؤسستكم تخطط لمنصة من هذا النوع، أو تحتاج إلى تصميم جزء محدد منها وتسليمه، يسعدنا أن نناقش ذلك معكم.