comparar
MLServer vs Triton Inference Server
Los mismos datos para ambos, leídos de GitHub cada noche, y la relación que revisó una persona.
| Dato | MLServer | Triton Inference Server |
|---|---|---|
| Lenguaje | Python | Python |
| Licencia | Apache-2.0 | BSD-3-Clause |
| Estrellas | 900 | 11k |
| Última versión | 1.7.1 | v2.73.0 |
| Último push | 2026-10-05 | 2026-10-06 |
| Ritmo de versiones | alrededor de 95 días entre versiones | alrededor de 32 días entre versiones |
| Colaboradores activos | 0 autores de commits en la rama por defecto en los últimos 90 días | 8 autores de commits en la rama por defecto en los últimos 90 días |
| Avisos | ninguno | ninguno |
Cómo se relacionan
Ambos sustituyen a Amazon SageMaker. Alternativas a Amazon SageMaker →
ParcialMLServerA Python inference server speaking the V2 inference protocol.
ParcialTriton Inference ServerServes TensorRT, PyTorch, ONNX and other models over HTTP and gRPC, with dynamic batching.
MLServer
- 1.7.12025-06-06Set a lower bound for mlflow in mlserver-mlflow
- 1.7.02025-04-11MLServer has now support for Python 3.11 and 3.12 by @shivakrishnaah in (#1951)
- 1.6.12024-09-10MLServer now offers an option to use pre-existing Python environments by specifying a path to the environment to be use…
- 1.6.02024-06-26MLServer supports Pydantic V2.
- 1.5.02024-03-05Update CHANGELOG
Triton Inference Server
- v2.73.02026-09-30Release 2.73.0 corresponding to NGC container 26.09
- v2.72.02026-08-31Release 2.72.0 corresponding to NGC container 26.08
- v2.71.02026-07-29Release 2.71.0 corresponding to NGC container 26.07
- v2.70.02026-06-26Release 2.70.0 corresponding to NGC container 26.06
- v2.69.02026-06-02Release 2.69.0 corresponding to NGC container 26.05
MLServer
sin firmar La última versión, 1.7.1, no lleva ninguna firma que GitHub haya podido verificar.
Cargando el informe de seguridad
Triton Inference Server
✓ firmada La última versión, v2.73.0, lleva una firma que GitHub ha verificado.
Cargando el informe de seguridad