bandingkan

TensorRT-LLM vs Xinference

Fakta yang sama untuk keduanya, dibaca dari GitHub setiap malam, dan hubungan keduanya yang ditinjau oleh manusia.

TensorRT-LLM vs Xinference
FaktaTensorRT-LLMXinference
BahasaPythonPython
LisensiOtherApache-2.0
Bintang15k9.6k
Terbaruv1.2.1v3.5.0
Push terakhir2026-10-062026-10-06
Frekuensi rilisrilis terlalu sedikitsekitar 15 hari antar rilis
Kontributor aktif125+ penulis commit di branch default dalam 90 hari terakhir38 penulis commit di branch default dalam 90 hari terakhir
Peringatantidak adatidak ada
  • Keduanya menggantikan ChatGPT. Alternatif ChatGPT →

    SebagianTensorRT-LLMServes open-weight models on NVIDIA GPUs behind an OpenAI-compatible API.

    SebagianXinferenceServes open-weight language, embedding and speech models behind an OpenAI-compatible API.