comparer
llama.cpp vs Xinference
Les mêmes faits pour les deux, lus sur GitHub chaque nuit, et la relation qu'une personne a relue.
| Fait | llama.cpp | Xinference |
|---|---|---|
| Langage | C++ | Python |
| Licence | MIT | Apache-2.0 |
| Étoiles | 130k | 9.6k |
| Dernière release | v0.6.0 | v3.5.0 |
| Dernier push | 2026-10-06 | 2026-10-06 |
| Rythme des releases | trop peu de releases | environ 15 jours entre les releases |
| Contributeurs actifs | 173+ auteurs de commits sur la branche par défaut ces 90 derniers jours | 38 auteurs de commits sur la branche par défaut ces 90 derniers jours |
| Signalements | aucun | aucun |
Ce qui les relie
Les deux remplacent ChatGPT. Alternatives à ChatGPT →
Partielllama.cppRuns open-weight models on CPU or GPU, with a built-in server and a minimal web chat.
PartielXinferenceServes open-weight language, embedding and speech models behind an OpenAI-compatible API.
llama.cpp
- b114452026-10-06vulkan : check for null vkEnumerateInstanceVersion (#29872)pré-release
- b114432026-10-06models : consolidate nextn row cropping into shared helpers (#30017)pré-release
- b114402026-10-06llama : re-reserve the sched when the nextn extraction flags change (#30020)pré-release
- b114392026-10-06ggml: refactor selective expert copying to user code (#29943)pré-release
- b114382026-10-06test-llama-archs : initialize backends before generating models (#30034)pré-release
Xinference
llama.cpp
non signée La dernière release, v0.6.0, ne porte aucune signature que GitHub puisse vérifier.
Chargement du rapport de sécurité
Xinference
✓ signée La dernière release, v3.5.0, porte une signature vérifiée par GitHub.
Chargement du rapport de sécurité