llama.cpp

LLM inference in C/C++

KTransformers. 1 alternatif llama.cpp, dalam Python. Bandingkan kecocokan, lisensi, bintang, dan rilis bertanda tangan terbaru.

Perbandingan berdampingan

1 alternatif open source untuk llama.cpp
Alat	Kecocokan	Bintang	Lisensi	Ketentuan	Self-hosted	Bahasa	Terbaru	Push terakhir
KTransformers	Sebagian	20k	Apache-2.0	Open source	Ya	Python	v0.7.2	2026-10-16

1 alternatif

A Flexible Framework for Experiencing Heterogeneous LLM Inference/Fine-tune Optimizations

Runs large mixture-of-experts models split across CPU and GPU, on top of its own optimized kernels.