llama.cpp

LLM inference in C/C++

KTransformers. 1 alternatives à llama.cpp, en Python. Comparez le type de remplacement, la licence, les étoiles et la dernière release signée.

Côte à côte

1 alternative open source à llama.cpp
Outil	Remplacement	Étoiles	Licence	Conditions	Auto-hébergeable	Langage	Dernière release	Dernier push
KTransformers	Partiel	20k	Apache-2.0	Open source	Oui	Python	v0.7.2	2026-10-16

1 alternative

A Flexible Framework for Experiencing Heterogeneous LLM Inference/Fine-tune Optimizations

Runs large mixture-of-experts models split across CPU and GPU, on top of its own optimized kernels.