comparer

TensorRT-LLM vs Xinference

Les mêmes faits pour les deux, lus sur GitHub chaque nuit, et la relation qu'une personne a relue.

TensorRT-LLM vs Xinference
FaitTensorRT-LLMXinference
LangagePythonPython
LicenceOtherApache-2.0
Étoiles15k9.6k
Dernière releasev1.2.1v3.5.0
Dernier push2026-10-062026-10-06
Rythme des releasestrop peu de releasesenviron 15 jours entre les releases
Contributeurs actifs125+ auteurs de commits sur la branche par défaut ces 90 derniers jours38 auteurs de commits sur la branche par défaut ces 90 derniers jours
Signalementsaucunaucun
  • Les deux remplacent ChatGPT. Alternatives à ChatGPT →

    PartielTensorRT-LLMServes open-weight models on NVIDIA GPUs behind an OpenAI-compatible API.

    PartielXinferenceServes open-weight language, embedding and speech models behind an OpenAI-compatible API.