vergleichen

TensorRT-LLM vs Xinference

Dieselben Fakten für beide, jede Nacht von GitHub gelesen, dazu die von Hand geprüfte Beziehung.

TensorRT-LLM vs Xinference
FaktTensorRT-LLMXinference
SprachePythonPython
LizenzOtherApache-2.0
Sterne15k9.6k
Neuestes Releasev1.2.1v3.5.0
Letzter Push2026-10-062026-10-06
Release-Rhythmuszu wenige Releasesetwa 15 Tage zwischen Releases
Aktive Mitwirkende125+ Commit-Autoren auf dem Standard-Branch in den letzten 90 Tagen38 Commit-Autoren auf dem Standard-Branch in den letzten 90 Tagen
Hinweisekeinekeine
  • Beide ersetzen ChatGPT. Alternativen zu ChatGPT →

    TeilweiseTensorRT-LLMServes open-weight models on NVIDIA GPUs behind an OpenAI-compatible API.

    TeilweiseXinferenceServes open-weight language, embedding and speech models behind an OpenAI-compatible API.