llama.cpp

LLM inference in C/C++

KTransformers. 1 alternativas a llama.cpp, en Python. Compara el nivel de sustitución, la licencia, las estrellas y la última versión firmada.

Comparativa

1 alternativa de código abierto a llama.cpp
Herramienta	Sustitución	Estrellas	Licencia	Condiciones	Autoalojable	Lenguaje	Última versión	Último push
KTransformers	Parcial	20k	Apache-2.0	Código abierto	Sí	Python	v0.7.2	2026-10-16

1 alternativa

A Flexible Framework for Experiencing Heterogeneous LLM Inference/Fine-tune Optimizations

Runs large mixture-of-experts models split across CPU and GPU, on top of its own optimized kernels.