Saltar al contenido

>awesome-alternatives

Buscar en el catálogo

Explorar Acerca de Añadir una herramienta

Idioma

English Français Español Deutsch Português (Brasil)日本語 Bahasa Indonesia

Inicio
Local model runtimes
LMDeploy

alternativa a ChatGPT

LMDeploy

Cargando el README

v0.18.02026-09-28[Feat]: Support output input logprobs
v0.17.02026-09-01Integrate DeepEPv2
v0.16.02026-08-19Support Interns2 mobius
v0.15.02026-07-31Support long-context and MTP prefix-cache hits
v0.14.02026-06-24FP8 kv cache quantization

✓ firmada La última versión, v0.18.0, lleva una firma que GitHub ha verificado.

Cargando el informe de seguridad

ChatGPTServes open-weight models behind an OpenAI-compatible API, with quantisation and batching.Parcial

Acerca de

LMDeploy is a toolkit for compressing, deploying, and serving LLMs.

PythonLocal model runtimesApache-2.0

Propietario: InternLM organización
Estrellas: 8.1k
Forks: 759
Última versión: v0.18.0
Último push: 2026-09-28
Condiciones: Código abierto
Autoalojable: Sí
Despliegue: Imagen de contenedor
Creación: 2023, hace 3 años
Ritmo de versiones: alrededor de 23 días entre versiones
Colaboradores activos: 28 autores de commits en la rama por defecto en los últimos 90 días

Leído de GitHub el 2026-10-06.Ficha editada por última vez el 2026-10-06.

Comparar LMDeploy y Ollama →

#codellama#cuda-kernels#deepspeed#fastertransformer#internlm#llama#llama2#llama3

github.com/InternLM/lmdeploy ↗Sitio web ↗Editar esta entrada Cambios de LMDeploy (RSS)

Más en Local model runtimes

OllamaGo→
llama.cppC++→
vLLMPython→
LocalAIGo→
exoPython→
SGLangPython→
llamafileC++→
MLC LLMPython→
KTransformersPython→
TensorRT-LLMPython→
XinferencePython→
mistral.rsRust→
llama-swapGo→
LemonadeC++→
GPUStackPython→
RamaLamaPython→
TabbyAPIPython→

Catálogo CC BY-SA, código AGPL, datos de GitHub, cada noche

Cómo funciona Qué ha cambiado Feed RSS Contacto Aviso legal Privacidad GitHub ↗