bandingkan
llama.cpp vs vLLM
Fakta yang sama untuk keduanya, dibaca dari GitHub setiap malam, dan hubungan keduanya yang ditinjau oleh manusia.
| Fakta | llama.cpp | vLLM |
|---|---|---|
| Bahasa | C++ | Python |
| Lisensi | MIT | Apache-2.0 |
| Bintang | 130k | 93k |
| Terbaru | v0.6.0 | v0.31.0 |
| Push terakhir | 2026-10-06 | 2026-10-06 |
| Frekuensi rilis | rilis terlalu sedikit | sekitar 14 hari antar rilis |
| Kontributor aktif | 173+ penulis commit di branch default dalam 90 hari terakhir | 260+ penulis commit di branch default dalam 90 hari terakhir |
| Peringatan | tidak ada | tidak ada |
Hubungan keduanya
Keduanya menggantikan ChatGPT. Alternatif ChatGPT →
Sebagianllama.cppRuns open-weight models on CPU or GPU, with a built-in server and a minimal web chat.
SebagianvLLMServes open-weight models behind an OpenAI-compatible API, tuned for GPU throughput.
Keduanya menggantikan Claude. Alternatif Claude →
Sebagianllama.cppRuns open-weight models on CPU or GPU, with a built-in server and a minimal web chat.
SebagianvLLMServes open-weight models behind an OpenAI-compatible API.
llama.cpp
- b114452026-10-06vulkan : check for null vkEnumerateInstanceVersion (#29872)pra-rilis
- b114432026-10-06models : consolidate nextn row cropping into shared helpers (#30017)pra-rilis
- b114402026-10-06llama : re-reserve the sched when the nextn extraction flags change (#30020)pra-rilis
- b114392026-10-06ggml: refactor selective expert copying to user code (#29943)pra-rilis
- b114382026-10-06test-llama-archs : initialize backends before generating models (#30034)pra-rilis
vLLM
- v0.31.02026-10-05This release features 717 commits from 307 contributors (96 new)!
- v0.30.02026-09-22This release features 762 commits from 315 contributors (104 new)!
- v0.29.02026-09-09This release features 594 commits from 277 contributors (91 new)!
- v0.28.02026-08-26This release features 584 commits from 270 contributors (76 new)!
- v0.27.12026-08-11This is a patch release on top of v0.27.0.
llama.cpp
tanpa tanda tangan Rilis terbaru, v0.6.0, tidak memiliki tanda tangan yang dapat diverifikasi GitHub.
Memuat laporan keamanan
vLLM
tanpa tanda tangan Rilis terbaru, v0.31.0, tidak memiliki tanda tangan yang dapat diverifikasi GitHub.
Memuat laporan keamanan