comparar
llama.cpp vs vLLM
Os mesmos fatos para os dois, lidos do GitHub toda noite, e a relação que uma pessoa revisou.
| Fato | llama.cpp | vLLM |
|---|---|---|
| Linguagem | C++ | Python |
| Licença | MIT | Apache-2.0 |
| Estrelas | 130k | 93k |
| Última release | v0.6.0 | v0.31.0 |
| Último push | 2026-10-06 | 2026-10-06 |
| Ritmo de releases | poucas releases | cerca de 14 dias entre releases |
| Contribuidores ativos | 173+ autores de commits na branch padrão nos últimos 90 dias | 260+ autores de commits na branch padrão nos últimos 90 dias |
| Alertas | nenhum | nenhum |
Como se relacionam
Os dois substituem ChatGPT. Alternativas a ChatGPT →
Parcialllama.cppRuns open-weight models on CPU or GPU, with a built-in server and a minimal web chat.
ParcialvLLMServes open-weight models behind an OpenAI-compatible API, tuned for GPU throughput.
Os dois substituem Claude. Alternativas a Claude →
Parcialllama.cppRuns open-weight models on CPU or GPU, with a built-in server and a minimal web chat.
ParcialvLLMServes open-weight models behind an OpenAI-compatible API.
llama.cpp
- b114452026-10-06vulkan : check for null vkEnumerateInstanceVersion (#29872)pré-release
- b114432026-10-06models : consolidate nextn row cropping into shared helpers (#30017)pré-release
- b114402026-10-06llama : re-reserve the sched when the nextn extraction flags change (#30020)pré-release
- b114392026-10-06ggml: refactor selective expert copying to user code (#29943)pré-release
- b114382026-10-06test-llama-archs : initialize backends before generating models (#30034)pré-release
vLLM
- v0.31.02026-10-05This release features 717 commits from 307 contributors (96 new)!
- v0.30.02026-09-22This release features 762 commits from 315 contributors (104 new)!
- v0.29.02026-09-09This release features 594 commits from 277 contributors (91 new)!
- v0.28.02026-08-26This release features 584 commits from 270 contributors (76 new)!
- v0.27.12026-08-11This is a patch release on top of v0.27.0.
llama.cpp
não assinada A última release, v0.6.0, não tem nenhuma assinatura que o GitHub consiga verificar.
Carregando o relatório de segurança
vLLM
não assinada A última release, v0.31.0, não tem nenhuma assinatura que o GitHub consiga verificar.
Carregando o relatório de segurança