BentoML

BentoML 是一个面向机器学习工程师的开源模型服务与部署框架，提供模型打包、版本管理、服务化和云端部署能力，支持 TensorFlow、PyTorch、scikit-learn 等主流框架。其核心产品 BentoML Open Source 在 GitHub 上拥有数万颗星，是 MLOps 领域被广泛采用的工具之一，主要服务于数据科学团队和 AI 应用开发者。