الأسبوع الماضي أطلقنا c3-llamacpp، وهو حاوية لـ llama.cpp مع محمل hf سريع. هذا الأسبوع، c3-vllm. هذا يقوم بتهيئة vLLM، الزعيم النهائي لخوادم واجهة برمجة التطبيقات LLM.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تسجيلات الإعجاب 11
أعجبني
11
3
مشاركة
تعليق
0/400
UncleWhale
· منذ 11 س
هذا الحاوية تناسبني جميعًا ، انطلق
شاهد النسخة الأصليةرد0
TrustlessMaximalist
· منذ 11 س
ليس سيئًا على vllm على السلسلة
شاهد النسخة الأصليةرد0
PumpAnalyst
· منذ 11 س
لا يمكن أن يكون هناك مطاردة السعر بشكل أعمى حتى مع المعلومات المفضلة من الناحية الفنية، كن حذرًا من أن تتحول إلى قطع الذراع.
الأسبوع الماضي أطلقنا c3-llamacpp، وهو حاوية لـ llama.cpp مع محمل hf سريع. هذا الأسبوع، c3-vllm. هذا يقوم بتهيئة vLLM، الزعيم النهائي لخوادم واجهة برمجة التطبيقات LLM.