bandingkan
llama.cpp vs TensorRT-LLM
Fakta yang sama untuk keduanya, dibaca dari GitHub setiap malam, dan hubungan keduanya yang ditinjau oleh manusia.
| Fakta | llama.cpp | TensorRT-LLM |
|---|---|---|
| Bahasa | C++ | Python |
| Lisensi | MIT | Other |
| Bintang | 130k | 15k |
| Terbaru | v0.6.0 | v1.2.1 |
| Push terakhir | 2026-10-06 | 2026-10-06 |
| Frekuensi rilis | rilis terlalu sedikit | rilis terlalu sedikit |
| Kontributor aktif | 173+ penulis commit di branch default dalam 90 hari terakhir | 125+ penulis commit di branch default dalam 90 hari terakhir |
| Peringatan | tidak ada | tidak ada |
Hubungan keduanya
Keduanya menggantikan ChatGPT. Alternatif ChatGPT →
Sebagianllama.cppRuns open-weight models on CPU or GPU, with a built-in server and a minimal web chat.
SebagianTensorRT-LLMServes open-weight models on NVIDIA GPUs behind an OpenAI-compatible API.
llama.cpp
- b114452026-10-06vulkan : check for null vkEnumerateInstanceVersion (#29872)pra-rilis
- b114432026-10-06models : consolidate nextn row cropping into shared helpers (#30017)pra-rilis
- b114402026-10-06llama : re-reserve the sched when the nextn extraction flags change (#30020)pra-rilis
- b114392026-10-06ggml: refactor selective expert copying to user code (#29943)pra-rilis
- b114382026-10-06test-llama-archs : initialize backends before generating models (#30034)pra-rilis
TensorRT-LLM
- v1.3.0rc292026-09-29Model Supportpra-rilis
- v1.3.0rc282026-09-23Known Issuespra-rilis
- v1.3.0rc272026-09-18Known Issuespra-rilis
- v1.3.0rc262026-09-09Known Issuespra-rilis
- v1.3.0rc252026-08-31Annoucementspra-rilis
llama.cpp
tanpa tanda tangan Rilis terbaru, v0.6.0, tidak memiliki tanda tangan yang dapat diverifikasi GitHub.
Memuat laporan keamanan
TensorRT-LLM
✓ bertanda tangan Rilis terbaru, v1.2.1, memiliki tanda tangan yang diverifikasi GitHub.
Memuat laporan keamanan