模型服务 高可用 架构设计 负载均衡模型服务架构踩坑记录最初的模型服务架构简单得不能再简单:一台 8 卡 A100 服务器,部署一个 Flask 服务,模型加载在显存里,外部请求通过 Nginx 转发… 醉月思📁 技术实践📅 2023-01-27
搜索排序 学习排序 Rank从查询走到结果:AI搜索排序笔记听起来很高端,但实际做下来踩了不少坑,特别是从传统BM25到learning-to-rank的过渡阶段。 醉月思📁 技术实践📅 2022-12-22
推荐系统 协同过滤 推荐算法AI推荐系统:这次怎么落地的先整理一下产品提出的需求: 1. **商品详情页推荐**:用户在查看商品详情时,显示"相关推荐" 2. **个性化推荐**:根据用户的浏览和购… 醉月思📁 技术实践📅 2022-11-20
分布式协调 ZooKeeper etcd 分布式系统分布式协调折腾手记边界条件才会告诉你方案能不能留。 这次做分布式系统改造,从本地协调到 ZooKeeper,再到… 醉月思📁 技术实践📅 2022-11-11