比較

TensorRT-LLM vs Xinference

両方について毎晩 GitHub から取得した同じ項目と、人がレビューした両者の関係です。

TensorRT-LLM vs Xinference
項目	TensorRT-LLM	Xinference
言語	Python	Python
ライセンス	Other	Apache-2.0
スター	15k	9.6k
最新リリース	v1.2.1	v3.5.0
最終プッシュ	2026-10-06	2026-10-06
リリース間隔	リリースが少なすぎます	リリース間隔は約15日
アクティブなコントリビューター	過去90日間にデフォルトブランチでコミットした作成者125人以上	過去90日間にデフォルトブランチでコミットした作成者38人
警告	なし	なし

両者の関係

どちらも ChatGPT を置き換えます。 ChatGPTの代替 →
部分的TensorRT-LLMServes open-weight models on NVIDIA GPUs behind an OpenAI-compatible API.
部分的XinferenceServes open-weight language, embedding and speech models behind an OpenAI-compatible API.