技术实践

ZeRO（Zero Redundancy Optimizer）是DeepSpeed里的一组优化策略，核心思想就…

「模型在测试集上 92%，上线应该稳了吧？

做 AI 模型隐私，纸面上是"保护训练数据"，落到生产里才发现攻击面宽得多：有人推断某条记录是否在训练集里，有人从模型参数反推用户行为，有人盯推…

线上 Llama2-7B 对话服务跑在 AWS g4dn.xlarge（单卡 T4）上，用户抱怨回答慢：首 token 延迟 2–3 秒，完整回…

边界条件才会告诉你方案能不能留。 这次做微前端改造，从单体应用到微前端，。

先说结论：GNN 适合处理那些数据之间存在复杂关系、且关系本身也包含信息的场景。

要把一个 7B 语言模型塞进 8GB 内存的边缘设备——这不是"优化一下体验"，是硬件硬顶在那儿。

发版前 Lighthouse 跑分 95，产品经理反馈首页还是卡。

项目最初用的是 BERT 的 WordPiece 分词器，数据主要是中文和英文。

AI混合专家我没按教科书顺序做。