bandingkan

TensorRT-LLM vs vLLM

Fakta yang sama untuk keduanya, dibaca dari GitHub setiap malam, dan hubungan keduanya yang ditinjau oleh manusia.

TensorRT-LLM vs vLLM
FaktaTensorRT-LLMvLLM
BahasaPythonPython
LisensiOtherApache-2.0
Bintang15k93k
Terbaruv1.2.1v0.31.0
Push terakhir2026-10-062026-10-06
Frekuensi rilisrilis terlalu sedikitsekitar 14 hari antar rilis
Kontributor aktif125+ penulis commit di branch default dalam 90 hari terakhir260+ penulis commit di branch default dalam 90 hari terakhir
Peringatantidak adatidak ada
  • Keduanya menggantikan ChatGPT. Alternatif ChatGPT →

    SebagianTensorRT-LLMServes open-weight models on NVIDIA GPUs behind an OpenAI-compatible API.

    SebagianvLLMServes open-weight models behind an OpenAI-compatible API, tuned for GPU throughput.