vergleichen

TensorRT-LLM vs vLLM

Dieselben Fakten für beide, jede Nacht von GitHub gelesen, dazu die von Hand geprüfte Beziehung.

TensorRT-LLM vs vLLM
FaktTensorRT-LLMvLLM
SprachePythonPython
LizenzOtherApache-2.0
Sterne15k93k
Neuestes Releasev1.2.1v0.31.0
Letzter Push2026-10-062026-10-06
Release-Rhythmuszu wenige Releasesetwa 14 Tage zwischen Releases
Aktive Mitwirkende125+ Commit-Autoren auf dem Standard-Branch in den letzten 90 Tagen260+ Commit-Autoren auf dem Standard-Branch in den letzten 90 Tagen
Hinweisekeinekeine
  • Beide ersetzen ChatGPT. Alternativen zu ChatGPT →

    TeilweiseTensorRT-LLMServes open-weight models on NVIDIA GPUs behind an OpenAI-compatible API.

    TeilweisevLLMServes open-weight models behind an OpenAI-compatible API, tuned for GPU throughput.