本文へスキップ
>
awesome-alternatives
カタログを検索
→
一覧
概要
ツールを追加
言語
English
Français
Español
Deutsch
Português (Brasil)
日本語
Bahasa Indonesia
English
Français
Español
Deutsch
Português (Brasil)
日本語
Bahasa Indonesia
ホーム
Local model runtimes
MLC LLM
代替対象：
Ollama
MLC LLM
README
リリース
1
セキュリティ
置き換え対象
1
README を読み込み中
v0.1.dev0
2023-04-29
プレリリース
署名なし
最新リリース v0.20.0 には、GitHub が検証できる署名がありません。
セキュリティレポートを読み込み中
Ollama
Compiles models for GPUs, phones and browsers, and serves them behind an OpenAI-compatible API.
部分的
Local model runtimesのその他のツール
Ollama
Go
→
llama.cpp
C++
→
vLLM
Python
→
LocalAI
Go
→
exo
Python
→
SGLang
Python
→
llamafile
C++
→
KTransformers
Python
→
TensorRT-LLM
Python
→
Xinference
Python
→
LMDeploy
Python
→
mistral.rs
Rust
→
llama-swap
Go
→
Lemonade
C++
→
GPUStack
Python
→
RamaLama
Python
→
TabbyAPI
Python
→