模型压缩 量化 剪枝 知识蒸馏 深度学习把量化换到剪枝时踩过的坑项目里那个 7B 参数的模型训练好了,部署到推理服务器上时,CPU 占用直接拉满,延迟干到了 3 秒多。 醉月思📁 技术实践📅 2022-01-10
搜索技术 Elasticsearch 向量搜索 全文检索搜索技术:Elasticsearch不够用了之后这次做搜索系统改造,从数据库搜索到 Elasticsearch,再到向量搜索,。 醉月思📁 技术实践📅 2021-11-23
归一化 BatchNorm 训练稳定关于AI归一化的几点记录先说清楚这次为什么写:模型训练到第 30 轮,loss 突然从 0.3 跳到 800,然后整串 NaN。 醉月思📁 技术实践📅 2021-11-15