comparar

LocalAI vs TensorRT-LLM

Los mismos datos para ambos, leídos de GitHub cada noche, y la relación que revisó una persona.

LocalAI vs TensorRT-LLM
Dato	LocalAI	TensorRT-LLM
Lenguaje	Go	Python
Licencia	MIT	Other
Estrellas	49k	15k
Última versión	v4.11.0	v1.2.1
Último push	2026-10-06	2026-10-06
Ritmo de versiones	alrededor de 14 días entre versiones	muy pocas versiones
Colaboradores activos	20+ autores de commits en la rama por defecto en los últimos 90 días	125+ autores de commits en la rama por defecto en los últimos 90 días
Avisos	ninguno	ninguno

Cómo se relacionan

Ambos sustituyen a ChatGPT. Alternativas a ChatGPT →
ParcialLocalAIOpenAI-compatible API for local text, image and audio models, on CPU or GPU.
ParcialTensorRT-LLMServes open-weight models on NVIDIA GPUs behind an OpenAI-compatible API.