Minggu lalu kami merilis c3-llamacpp, sebuah llama.cpp yang tercontainerisasi dengan pengunduh hf yang cepat. Minggu ini, c3-vllm. Ini adalah containerisasi vLLM, bos terakhir dari server API LLM.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
11 Suka
Hadiah
11
3
Bagikan
Komentar
0/400
UncleWhale
· 18jam yang lalu
Wadah ini bisa menampung apa saja, ayo!
Lihat AsliBalas0
TrustlessMaximalist
· 18jam yang lalu
Bagus sekali, vllm on-chain
Lihat AsliBalas0
PumpAnalyst
· 18jam yang lalu
Teknikal Informasi menguntungkan juga tidak bisa secara membabi buta mengejar harga, hati-hati bisa menjadi pahlawan yang memotong pergelangan tangan.
Minggu lalu kami merilis c3-llamacpp, sebuah llama.cpp yang tercontainerisasi dengan pengunduh hf yang cepat. Minggu ini, c3-vllm. Ini adalah containerisasi vLLM, bos terakhir dari server API LLM.