alternative à ChatGPT, Claude

vLLM

1 outil remplace vLLM

SGLangRemplacement complet

SGLang is a high-performance serving framework for large language models and multimodal models.

GPU serving engine for open-weight models behind an OpenAI-compatible API.

Langage
Python
Licence
Apache-2.0
Étoiles
37k
Dernière release
v0.5.21
Dernier push
2026-10-06

Dans la même catégorie : Local model runtimes