llama.cpp

LLM inference in C/C++

KTransformers. 1 alternativas a llama.cpp, em Python. Compare tipo de substituição, licença, estrelas e a última release assinada.

Lado a lado

1 alternativa de código aberto a llama.cpp
Ferramenta	Substituição	Estrelas	Licença	Termos	Auto-hospedado	Linguagem	Última release	Último push
KTransformers	Parcial	20k	Apache-2.0	Código aberto	Sim	Python	v0.7.2	2026-10-16

1 alternativa

A Flexible Framework for Experiencing Heterogeneous LLM Inference/Fine-tune Optimizations

Runs large mixture-of-experts models split across CPU and GPU, on top of its own optimized kernels.