vergleichen
llama.cpp vs TensorRT-LLM
Dieselben Fakten für beide, jede Nacht von GitHub gelesen, dazu die von Hand geprüfte Beziehung.
| Fakt | llama.cpp | TensorRT-LLM |
|---|---|---|
| Sprache | C++ | Python |
| Lizenz | MIT | Other |
| Sterne | 130k | 15k |
| Neuestes Release | v0.6.0 | v1.2.1 |
| Letzter Push | 2026-10-06 | 2026-10-06 |
| Release-Rhythmus | zu wenige Releases | zu wenige Releases |
| Aktive Mitwirkende | 173+ Commit-Autoren auf dem Standard-Branch in den letzten 90 Tagen | 125+ Commit-Autoren auf dem Standard-Branch in den letzten 90 Tagen |
| Hinweise | keine | keine |
Wie sie zusammenhängen
Beide ersetzen ChatGPT. Alternativen zu ChatGPT →
Teilweisellama.cppRuns open-weight models on CPU or GPU, with a built-in server and a minimal web chat.
TeilweiseTensorRT-LLMServes open-weight models on NVIDIA GPUs behind an OpenAI-compatible API.
llama.cpp
- b114452026-10-06vulkan : check for null vkEnumerateInstanceVersion (#29872)Pre-Release
- b114432026-10-06models : consolidate nextn row cropping into shared helpers (#30017)Pre-Release
- b114402026-10-06llama : re-reserve the sched when the nextn extraction flags change (#30020)Pre-Release
- b114392026-10-06ggml: refactor selective expert copying to user code (#29943)Pre-Release
- b114382026-10-06test-llama-archs : initialize backends before generating models (#30034)Pre-Release
TensorRT-LLM
- v1.3.0rc292026-09-29Model SupportPre-Release
- v1.3.0rc282026-09-23Known IssuesPre-Release
- v1.3.0rc272026-09-18Known IssuesPre-Release
- v1.3.0rc262026-09-09Known IssuesPre-Release
- v1.3.0rc252026-08-31AnnoucementsPre-Release
llama.cpp
unsigniert Das neueste Release, v0.6.0, trägt keine Signatur, die GitHub prüfen könnte.
Der Sicherheitsbericht wird geladen
TensorRT-LLM
✓ signiert Das neueste Release, v1.2.1, trägt eine Signatur, die GitHub geprüft hat.
Der Sicherheitsbericht wird geladen