comparar
TensorRT-LLM vs Xinference
Os mesmos fatos para os dois, lidos do GitHub toda noite, e a relação que uma pessoa revisou.
| Fato | TensorRT-LLM | Xinference |
|---|---|---|
| Linguagem | Python | Python |
| Licença | Other | Apache-2.0 |
| Estrelas | 15k | 9.6k |
| Última release | v1.2.1 | v3.5.0 |
| Último push | 2026-10-06 | 2026-10-06 |
| Ritmo de releases | poucas releases | cerca de 15 dias entre releases |
| Contribuidores ativos | 125+ autores de commits na branch padrão nos últimos 90 dias | 38 autores de commits na branch padrão nos últimos 90 dias |
| Alertas | nenhum | nenhum |
Como se relacionam
Os dois substituem ChatGPT. Alternativas a ChatGPT →
ParcialTensorRT-LLMServes open-weight models on NVIDIA GPUs behind an OpenAI-compatible API.
ParcialXinferenceServes open-weight language, embedding and speech models behind an OpenAI-compatible API.
TensorRT-LLM
- v1.3.0rc292026-09-29Model Supportpré-release
- v1.3.0rc282026-09-23Known Issuespré-release
- v1.3.0rc272026-09-18Known Issuespré-release
- v1.3.0rc262026-09-09Known Issuespré-release
- v1.3.0rc252026-08-31Annoucementspré-release
Xinference
TensorRT-LLM
✓ assinada A última release, v1.2.1, tem uma assinatura verificada pelo GitHub.
Carregando o relatório de segurança
Xinference
✓ assinada A última release, v3.5.0, tem uma assinatura verificada pelo GitHub.
Carregando o relatório de segurança