alternatif untuk ChatGPT

Xinference

Memuat README

Tentang

Swap GPT for any LLM by changing a single line of code. Xinference lets you run open-source, speech, and multimodal models on cloud, on-prem, or your laptop — all through one unified, production-ready inference API.

PythonLocal model runtimesApache-2.0

Pemilik: Xorbits organisasi
Bintang: 9.6k
Fork: 873
Terbaru: v3.5.0
Push terakhir: 2026-10-06
Ketentuan: Open source
Self-hosted: Ya
Deploy dengan: Image container
Dibuat: 2023, 3 tahun lalu
Frekuensi rilis: sekitar 15 hari antar rilis
Kontributor aktif: 38 penulis commit di branch default dalam 90 hari terakhir

Dibaca dari GitHub pada 2026-10-06.Entri terakhir diedit pada 2026-10-06.

Bandingkan Xinference dan Ollama →

#artificial-intelligence#deployment#diffusers#gemma#glm#glm-5-3#inference#kimi

github.com/xorbitsai/inference ↗Situs web ↗Edit entri ini Perubahan pada Xinference (RSS)

Alat lain di Local model runtimes

OllamaGo→
llama.cppC++→
vLLMPython→
LocalAIGo→
exoPython→
SGLangPython→
llamafileC++→
MLC LLMPython→
KTransformersPython→
TensorRT-LLMPython→
LMDeployPython→
mistral.rsRust→
llama-swapGo→
LemonadeC++→
GPUStackPython→
RamaLamaPython→
TabbyAPIPython→