技术实践

这段时间在AI系统里搞隐私工程，从设计到合规一路踩坑，今天把整个过程梳理一遍。

用户的需求其实很直接： 1. 用 PyTorch 训练的 BERT 模型需要转成 ONNX 格式 2. ONNX 模型要在 TensorRT 上…

这类"明明看起来没问题但就是不对"的场景，在AI项目里太常见了。

AI性能基准测试笔记我没按教科书顺序做。

GPT-4 很强，但项目里要不要全换？记一次从 GPT-3.5 到混合调度的成本与效果权衡。

先复现，再谈优化。 "The art of programming is the art of…

回想这几年在 AI 项目上的折腾，真正让我在夜深人静时抱着电脑叹气的，从来不是模型推理本身——那通常是技术方案中最确定的一环——而是那些为了把一…

几个月前我需要用 GPT-4 分析一堆日志文件，找出异常请求。

这次 API 重构，从 REST 迁移到 GraphQL，解决了不少实际问题，但也踩了一些坑。

让 AI「写个 Python 脚本处理 CSV」，第一次只做清洗，第二次加了异常处理却把核心逻辑改了，第三次要格式化输出，它又把前面重构一轮。