指尖魔法屋
  • 文章
  • 分类
  • 标签
  • 时间轴
  • 关于
  • 联系
  • 🔍

模型服务

模型服务 高可用 架构设计 负载均衡
模型服务架构踩坑记录
最初的模型服务架构简单得不能再简单:一台 8 卡 A100 服务器,部署一个 Flask 服务,模型加载在显存里,外部请求通过 Nginx 转发…
醉月思 醉月思
📁 技术实践
📅 2023-01-27
Copyright © 2017-2026 指尖魔法屋. All rights reserved POWERED BY thinkBlog · v6.1.0 关于 · 联系 · 隐私政策 · Cookie 政策 本站已顽强运行:加载中...
粤ICP备17055617号