alternatif untuk

vLLM

A high-throughput and memory-efficient inference and serving engine for LLMs

Perbandingan berdampingan

1 alternatif open source untuk vLLM
AlatKecocokanBintangLisensiKetentuanSelf-hostedBahasaTerbaruPush terakhir
SGLangPengganti penuh37kApache-2.0Open sourceYaPythonv0.5.212026-10-06

Semua alternatif

1 alternatif

SGLangPengganti penuh

SGLang is a high-performance serving framework for large language models and multimodal models.

GPU serving engine for open-weight models behind an OpenAI-compatible API.

Bahasa
Python
Lisensi
Apache-2.0
Bintang
37k
Terbaru
v0.5.21
Push terakhir
2026-10-06

Tentang vLLM

Bahasa
Python
Lisensi
Apache-2.0
Bintang
93k
Push terakhir
2026-10-06

Tentang vLLM →