昇腾 910B 微调 Qwen3.8-27B:从 OOM 到 4096 上下文 LoRA
cutoff_len=16 时链路全绿,一拉到 4096 就在 MLP 前向炸显存。这篇把 8×910B 上 Qwen3.8-27B 的 LoRA 怎么从 OOM 拧到跑完 2475 步写清楚,也把验证集先降后升这件事摊开。
THE NOTEBOOK / 文章归档
每一次探索,都值得留下记录。
cutoff_len=16 时链路全绿,一拉到 4096 就在 MLP 前向炸显存。这篇把 8×910B 上 Qwen3.8-27B 的 LoRA 怎么从 OOM 拧到跑完 2475 步写清楚,也把验证集先降后升这件事摊开。
大模型能读懂供应商的延期邮件,却未必知道它会影响哪些工单和客户。本文从一张制造业订单出发,用RDF、OWL、SHACL和SPARQL搭一个最小Ontology,也聊聊它在Agent时代真正解决什么问题。
同一套卡、同一个模型,llama.cpp 的 --split-mode 从 layer 换成 tensor,token 生成变快了、预填充却慢了好几下。这篇文章把 layer split(流水线)和 tensor split(张量并行)到底切了什么、通信差在哪讲清楚,再 …
想给自己的程序加上 Agent,未必需要从模型 API、Function Calling 和 Agent Loop 开始造轮子。这篇文章用 Python 接入 Cursor ACP,先跑通一个最小 Agent,再讲清楚会话、权限和业务入口该怎么接,并讨论什么时候该用、什 …
用 lark-cli 收飞书消息,Python 桥接 Cursor ACP(agent acp),项目代码里不集成任何大模型 API;适合已有 Cursor 订阅、想在本机跑 Agent 的场景。
记录一次在投资研究 Agent 中调试 OpenAI Responses API Web Search 的过程,重点梳理请求格式、SSE 流解析、工具名兼容性和结构化数据源设计。文中的 provider、模型和估值结果都属于当时环境,不能替代正式行情接口或投资建议。
这篇文章从 AI 编程的真实工程场景出发,梳理 Harness Engineering 如何通过上下文、工具、沙盒、验证和人工闸门,让 Agent 从“会写代码”走向“能稳定交付”。
智谱AI API虽性能优异但仅支持30秒以内音频文件。本文详细介绍如何基于pyannote.audio的语音活动检测技术实现智能音频分块,通过批量API调用构建完整的长语音转文本系统,包含完整的环境配置、代码实现和部署方案。