AI服务 性能优化 模型部署 系统架构AI模型服务性能踩坑记录线上 Llama2-7B 对话服务跑在 AWS g4dn.xlarge（单卡 T4）上，用户抱怨回答慢：首 token 延迟 2–3 秒，完整回… 醉月思📁 技术实践📅 2023-06-17
