技术实践

AI模型漂移相关的坑，多半出在边界条件上。

最近在做AI项目的时候，发现一个很现实的问题：每次模型训练完成、测试通过，推送到生产环境的时候，都得手动走一堆流程。

让我先说一下我们之前是怎么部署的： 1. 停止运行中的服务进程 2. 部署新代码和模型文件 3. 启动新服务进程 4. 等待服务就绪（有时候要…

我们之前采用的是这样的流程： 1. 开发环境本地测试 2. 测试环境跑测试集 3. 小流量灰度发布 4. 观察指标 5. 全量发布 这个流程…

一次事故后我们发现，回滚按钮好按，但微服务、模型文件和数据库 schema 往往对不齐。

项目背景其实挺简单：给一个医疗影像分类任务做模型优化，数据量约 10 万张，算力限制在单张 A100 GPU，目标是在推理时间不超过 50ms …

最近把团队的几个机器学习项目从零散的服务器迁移到了统一的 MLOps 平台。

先复现，再谈优化。 ** 我们需要一个在线特征服务，核心诉求就这么几条：

我们团队当时在做几个独立项目：

理解这些领域的协作关系，构建可靠的机器学习生产系统，是现代 ML 工程师的核心能力。