来源:APPSO(发现明日产品)(APPSO(基于唐杰 X 分享与智谱官方博客整理)) · 2026-09-17 · 原文链接

分类:主线强相关(RSI 线索的直接后续:第一次有了跑进生产环境的工程实例,且它给出的「dense feedback 三条件」是我们那条数据回路线索的形式化版本)


一句话概括

智谱创始人、首席科学家唐杰公布:GLM-5.3-Flash 的全部生产推理跑在超过 10 万张国产 AI 加速器上,从首次跑通到承载全部生产流量不到两周,端到端吞吐提升到初始基线的 3.2 倍——而完成大部分优化工作的不是 infra 团队,是一个由 GLM-5.3 驱动的 Infra Agent。全篇真正的干货不是"AI 会写代码",而是他们被迫发明的那套 dense feedback(稠密反馈):因为"吞吐下降 20%“这种端到端指标只告诉你出事了,不告诉你哪一层、该验证哪个假设、下一步测什么(稀疏奖励 + 信用分配问题),于是他们把资深工程师脑子里的隐性"过程奖励"显性化,做成 Agent 可直接调用的分层验证接口。⭐ 我的读法:这条方法论比 3.2 倍这个数字重要得多——它给出了「反馈该怎么设计」的三个条件(局部、低成本及时、可客观验证),而这三条在物理世界恰好都最难满足,正好反证了"RSI 卡在 L3(经验获取自主性)“那个判断。

核心要点

金句

「一个帮助优化服务自身的模型。」——唐杰

「当 Agent 卡住时,很少是因为它写不出代码。是因为它不知道为什么事情变糟了。」

「『吞吐量下降了 20%』告诉你出了问题。它不会告诉你是哪一层,哪个假设,或者下一步测试什么。用强化学习术语来说,这是稀疏奖励加上归功分配问题。」

「资深工程师通过头脑中的隐式过程奖励来解决这个问题。所以我们让它显性化。」

「稠密,并不意味着向 Agent 输入尽可能多的日志和指标。」

「工程师的角色正在改变,从解决问题的人,变成设计反馈的人。」

「一个基于真实基础设施任务的分层、可验证反馈环境,正是训练下一代模型最需要的。Agent 完成的每个任务,都能成为其继任者的训练场。」

「模型优化系统。系统服务模型。」

「每一步优化都是一次交换:计算换内存、通信换显存、精度换容量、解耦换调度自由度。」

质疑与核查

  1. 这不是独立报道,是官方发布稿的整理。信息全部来自智谱自己的博客与唐杰的 X,APPSO 没有做任何独立核实。所有数字都是自报的。 这是最要紧的一条。

  2. 口径不统一,引用时要挑一个并注明:

    • 吞吐提升:唐杰 X 与多数转述说 3.2 倍,智谱博客正文有"约 3 倍"的表述,配图终点标 3.22x。
    • KV Transfer 开销:唐杰 X 说 “从超过 30% 降到不到 1%”,博客原文的验收条件写的是"不应超过 5%,而测到部分场景超过 20%",修复后"小于 1%"。「30%」这个数只出现在 X 的转述里,博客里是 20%。
    • 芯片数量:APPSO 写"超过 10 万颗”,博客写"超过 10 万张”。是否同时是同一集群、是否全部用于 GLM-5.3-Flash,原文没有拆分。
  3. ⚠️ 这不是 RSI,标题里的"首个 RSI 成果"是媒体加的。智谱原文标题是 “Toward Recursive Self-Improvement”(走向 RSI),正文明确说「我们仍远未达到递归自我改进」「还没有实现 RSI」。“首个 RSI 成果"这个说法与原文自我定位不符,别照抄。

  4. 严格说它甚至不算"自我改进"的标准案例:被优化的是推理服务系统(infra),不是模型权重。按翁荔 Harness Engineering 的分类,这属于改"AI 的运行系统”,属于 RSI 的外围路径而非核心路径(核心是改进研发与训练方法本身)。它与 L1/L2 的"执行与搜索改进方案"对应,离 L4/L5 还远。

  5. “完成大量优化工作的是 Infra Agent"没有量化。多少比例的优化是 Agent 独立完成的?Agent 提出的假设里多少被验证为正确?多少修改被人类驳回?一个数字都没有。 唐杰自己也说人类"审核每一项高风险变更”——驳回率是关键,没给。

  6. 因果归属不清:3.2 倍提升里,来自 Agent 的贡献、来自人类 infra 工程师的贡献、来自"从 0 到 1 本来就有大量低垂果实"的贡献,三者没法拆。任何系统从首次跑通到生产就绪,本来就会有几倍的提升空间——这个基线没给。

  7. 62 万亿 token / 6 天这个数字来自智谱自报,且 Ox-Alpha 是匿名模型,没有第三方(OpenRouter/OpenCode 官方)确认其身份与排名。

  8. “单 token 成本对标主流 NVIDIA GPU"缺少对照口径:哪一代 GPU(H100/B200/GB200?)、什么 batch size、什么 SLA(TTFT/TPOT)、含不含折旧与电费。这句话是营销级别的陈述,不是可验证指标。

  9. 一个我注意到的内部张力:文章一边说"稠密反馈不是喂更多日志”,一边又说 Agent 能访问执行 Trace、运行时事件、线程状态等大量信号。“稠密"指的是可归因与可操作,不是信息量——这个区分他们在文字里讲清楚了,但很容易被读者(和我们)误读成"多给信号就好”。抄这套方法论时最容易犯的错就是把 observability 当 feedback。

  10. 与上一篇 RSI 综述的关系:那篇(09-15)几乎没讲技术,这篇补上了工程实例,但也带上了厂商自我宣传的新偏差。两篇合起来读比单读任何一篇好,但两篇的可信度来源不同,不能互相印证。


本文为阅读剪藏(摘要 + 摘录 + 评论),非原文转载。查看原文