AI 应用构建 · Agent 工程 · 模型推理与性能优化
我关注如何把模糊的业务问题拆成可执行的步骤,完成从方案、工具实现到效果验证的闭环,并把实践沉淀为可复用的 Skill、工具与工程方法。
我的实践覆盖两条相互连接的方向:
- AI 应用与工作流:Agent 协作、工具执行、Skills、MCP,以及数据证据与质量验证。
- 模型与推理工程:昇腾模型适配、KV Cache、图捕获、算子与推理性能问题定位。
| 项目 | 解决的问题 | 内容与边界 |
|---|---|---|
| LLM Architecture Atlas | 将模型配置与资料整理成可浏览、可比较的架构图 | 数据采集、架构中间表示、SVG 渲染、双语网页及自动化检查;在线入口 |
| hand-drawn-deck | 将中文技术汇报制作流程沉淀为可复用 Skill | 单文件 HTML 汇报页规范,配套字体子集、布局探针和截图检查工具 |
| peerforge | 协调不同 CLI Agent 完成共享任务 | 本地消息持久化、运行环境隔离、就绪检查与任务协作;处于原型阶段 |
| plate-rotation-skill | 让板块研究中的数据来源、时间与证据状态可追溯 | 基于上游项目的二次开发,包含证据快照、跨日状态与验证机制;用于研究,不提供交易执行 |
- oh-my-quant #4:修正回测持仓盈亏与复利年化收益计算,补充回归测试和计算口径说明。
- oh-my-quant #6:增加带来源与时间证据的研究数据契约,以及相对强弱、ATR 和量价计算;明确数据不足时的处理边界。
- vLLM Ascend #15430:针对非连续缓存布局优化 causal_conv1d_update 的搬运与写回路径。
- vLLM Ascend #16005:GLM 稀疏注意力相关的索引器、缓存与图捕获路径。
- vLLM #55810:GLM 混合 KV Cache 的分组处理修复。
以上推理系统 PR 的评审与合并状态以链接页面为准。性能数字及验证条件见各 PR 描述。
- 从具体场景和验收标准出发,先确定要解决什么问题。
- 区分模型推理、确定性工具和人工判断各自适合承担的步骤。
- 为数据保留来源、时间、口径与未知项,让输出可追溯。
- 用测试、可观测记录和实际使用反馈推动迭代。
- 使用 AI 编码工具辅助实现,并通过审查与验证对结果负责。
欢迎通过相关仓库的 Issue 交流,或查看我的公开贡献记录。


