比較
LM Evaluation Harness vs OpenCompass
両方について毎晩 GitHub から取得した同じ項目と、人がレビューした両者の関係です。
| 項目 | LM Evaluation Harness | OpenCompass |
|---|---|---|
| 言語 | Python | Python |
| ライセンス | MIT | Apache-2.0 |
| スター | 14k | 7.5k |
| 最新リリース | v0.4.13 | 0.5.4 |
| 最終プッシュ | 2026-09-14 | 2026-10-16 |
| リリース間隔 | リリース間隔は約74日 | リリース間隔は約89日 |
| アクティブなコントリビューター | 過去90日間にデフォルトブランチでコミットした作成者52人 | 過去90日間にデフォルトブランチでコミットした作成者26人 |
| 警告 | なし | なし |
両者の関係
OpenCompass は LM Evaluation Harness を置き換えます。 LM Evaluation Harnessの代替 →
完全な置き換えRuns benchmark suites over local and API models from a config.
LM Evaluation Harness
- v0.4.132026-08-31A fix-focused release. The main fixes are for few-shot leakage, a multiple-choice filter bug, and group stderr, alongsi…
- v0.4.122026-05-11New release with four new model backends, tensor parallel support for transformers based models (hf), new benchmarks, a…
- v0.4.112026-02-13Minor release. Stay tuned for bigger changes next release.
- v0.4.102026-01-27The big change this release: the base package no longer installs model backends by default. We've also added new benchm…
- v0.4.9.22025-11-26lm-eval v0.4.9.2 Release Notes
OpenCompass
- 0.5.42026-08-26✨ Multimodal Evaluation with VLMEvalKit: OpenCompass now integrates VLMEvalKit for native multimodal dataset loading, O…
- 0.5.32026-06-29✨ 🧪 Extensive New Benchmarks and Dataset Support: Added support for a wide range of new benchmarks and datasets, inclu…
- 0.5.22026-02-14✨ 🧪 Extensive New Benchmarks Support: We have introduced comprehensive support for Scientific and General Benchmarks,…
- 0.5.1.post12025-10-17✨ A New Method to quickly Integrate and Evaluate Your Datasets: Added a fast dataset integration and evaluation method…
- 0.5.02025-09-01✨ Comprehensive Scientific Benchmarks: Integrated 10+ specialized datasets (MedXpertQA, ClimaQA, SmolInstruct, etc.),…
LM Evaluation Harness
✓ 署名済み 最新リリース v0.4.13 には、GitHub が検証した署名があります。
セキュリティレポートを読み込み中
OpenCompass
✓ 署名済み 最新リリース 0.5.4 には、GitHub が検証した署名があります。
セキュリティレポートを読み込み中