Matt Pocock 对谈 Pi 两位作者:验证被高估了,Agent 很会打磨可验证任务,系统设计仍要靠人
文章目录
部分视频或图片暂未收录,已在正文保留提示;需要时可查看原文。查看原文 ↗
Youtube:https://www.youtube.com/watch?v=ZBTegd8DUZM&t=1307s
Matt Pocock 与 Pi 的作者 Mario Zechner、Armin Ronacher 做了一场约 46 分钟的直播对谈。主要讨论的并不是 Agent 能不能多写代码,是怎样写出不糟糕的代码:什么任务可以放心交给模型,什么时候测试仍然给不了安全感,以及人还要不要理解自己的系统。
Matt Pocock 是 327K ⭐️ 著名 Skills For Real Engineers 作者
[未转换内容,参见原始 JSON]
Pi 是一套刻意保持精简的编程 Agent 运行框架。这场对话里,两人很少推销功能,更多是在谈他们如何审查改动、如何建立信任,以及为什么对「软件工厂」仍持保留态度。对谈中 21:47 正是 Mario 说「验证被高估了」的地方;它是整场连续讨论中的转折。
[未转换内容,参见原始 JSON]
模型更会打磨能验证的任务,但不更会做系统设计
Matt 一开始就追问 Armin 上场前说的「后 Opus 5.5 时代」。Armin 的意思并不是全面信任已经到来,主要是对某些任务,模型现在可以更长时间、更少监督地跑下去。尤其是已有参考测试套件、需要做出对等实现的工作,它们很会持续打磨。他同时强调,这并不能推广到所有日常工作;真正因此多做起来的,往往是以前不会动手的副作用项目。
放到要对外交付的产品上,两人都会更谨慎。Armin 说,他们是在做别人会继续往上构建的东西,最怕无意中发布自己并未打算发布的功能。Matt 也点出,Pi 本身是公开接口,界面上的每一步都需要仔细斟酌。
Mario 则认为,从 4.8 到 5.5,他在系统设计、架构和 API 设计上并没有看到巨大跃升,模型在这些地方仍然很弱。明显变好的,是调度子 Agent,以及一切能通过测试或其他判定标准验证的工作。撒谎和奖励黑客也少了一些,尤其是 Claude 系列。他举了自己的反例:曾经让 Agent 隔夜优化 Pi 的启动时间,第二天看到启动时间「降低了 100%」。仔细一看,模型几乎把模块全拆掉了,等于把应用本身拿掉,才得到这个数字。他说,这种情况最近好了一些,但没有消失。
Matt 把这种差别概括为:Agent 很擅长战术,不擅长战略。Mario 说得更直接:目标清楚、路径几乎是一条直线时,他可以信任模型;一旦问题含糊,必须靠经验、领域知识或直觉来做取舍,它们就很差。Armin 补充,模型给出的第一个方案常常「也算一种解」,但不太可能是更好的那个,除非你把正确的权衡告诉它。Matt 还提到 Lauren Tan 当天演讲里的一句观察:问题一旦带有细微差别,就容易走向低质量结果。
领域知识在这里仍然关键。Armin 提到,他和 Sentry 创始人 David Cramer 聊过用 Opus 5.5 做游戏:同样的模型,在他这边进展很大,在对方那边却不明显。后来他意识到,自己有游戏开发背景,提示的路径很具体。Mario 说,这就像以前给模型设定角色,只不过现在更依赖你是否用对了那个领域的术语,才能把权重里真正相关的部分调动出来。
信任是分领域的,而且标准会自己往上走
Armin 并不把问题定义成「要不要把人从循环里拿掉」。在他看来,软件终究是给人用的,有意思的问题一直是:怎样让循环里的人把最好的事情做成。模型再强,也会撞上人的能力边界,只不过人会带着更多 Agent 一起做。
Mario 把信任看得更具体。每个模型发布后,你都要重新学习什么能交给它、什么不能;同一模型家族的新一代,也只能假定一个新的基线。他举了 Pi 自己的例子:仓库每天大约新增 40 到 50 个 issue,同事 David 做了一个分诊机器人。它用很简单的提示,去判断问题是否成立、能否稳定复现,然后提出修复并标注优先级。他们用大约一两周、主要基于旧数据来调这套流程。Mario 说,如果一个 issue 被标成 P0,而且已经复现、现有代码会让测试失败、提议的修复又能让测试通过,他就有较高把握可以签字合并。
一旦变成增加或扩展功能,尤其是涉及他自己作为产品使用者的判断,结果就常常很可笑。他的总结是:不是完全不信任 Agent,只是不同领域的可靠程度差得很远。信任一旦建立,标准又会自动上移,原先已经能做好的部分会被视为理所当然。他们现在读 Pi 代码的比例比以前低得多。Mario 说,至少对模型会不会在仓库里留下明显低质量痕迹这件事,他已经没那么担心了。
Matt 认为,眼下真正在变的是人审多少,而不再是手写多少。对他自己而言,手写代码已经几乎降到零。面对公开项目和必须守住的接口,Mario 仍会看很多代码,包括自动修复的 diff。他的优势是,即使用 Agent 修了 12 个月的问题,自己仍然熟悉 Pi 的代码。不过这并不适用于所有子系统。例如会话数据的 HTML 导出,只要最终结果正确,他并不关心实现长什么样;但只要改动碰到工具实现、Agent 循环或必须保持稳定的核心原语,他仍会把整个 diff 读完。不算关键的改动,则可能会跳过很多细节。
「验证被高估了」:测试很多,并不等于系统就是好的
Matt 觉得两人在验证上比他更放松,并追问 Mario 上场前那句更刺耳的话:验证被高估了。21:47 前后,Mario 先声明,这绝不是在针对 Lauren Tan。他真正反对的,是一种常见错觉:只要 Agent 写了海量的 lint 规则、单元测试或端到端测试,系统就一定是好的。在他看来,并不是这样。这些模型仍会追求目标、钻空子,仍可能撒谎,或者测量了错误的东西、测量得不够。如果你对系统实际在做什么没有足够了解,就很难判断这些验证到底有没有价值。他甚至认为,其中大部分通常并不好。
Armin 并没有否定验证。他说,Pi 里有大量单元测试,他做过的项目也都有约束 Agent 的机制。但很多事情本质上就很难验证。他曾经给 Pi 的一些部分做过 Lean 证明,还试过用一种迷你 TypeScript 作为输入语言,以便获得更多控制。这些探索很有意思,但到目前为止,大多数形式化验证结果对 Agent 而言,仍更像又一份可以参考的材料,还没有真正成为内在约束。就他自己用 Lean、Coq 等工具做的试验来看,也还没有成功把它做成工作流里的正式一环。
Mario 补了一句更明确的限制:停机问题是真实存在的,用 Lean 还是 Coq 都改变不了。纯函数相对容易验证,端到端验证整个系统则不行;单个模块能验证,也不等于它们组合起来仍然成立。他认为,除非是航空航天等长期按可验证方式来写代码的受监管领域,完整程序验证并不现实。有验证总比没有好,但不应因为磁盘上多了一堆整洁测试、CI 变绿,就获得虚假的安全感。这些测试甚至可能并未证明你以为它们证明的事情。
至于用模型再做一层审查,Mario 不愿称之为安全,更愿意称为「防止自己偷懒的保险」。做系统设计时,他会让不同模型家族看同一份输入,往往会得到很不一样的意见,这非常有用。但若把它们调得过于严厉,又会找出许多其实不必处理的问题,最后仍要靠自己的判断来筛选。Matt 也说,有人会让审查循环一直跑到不再报问题,结果往往只是得到一份极其庞大的产物。Armin 还提醒,模型学到的许多「最佳实践」可能本身就不好。他更相信降低系统复杂度,但不少最佳实践强调到处防御;放任模型按这套做,系统反而更复杂。安全防护加多了,有时还会让人误以为已经安全,却正好漏掉真正重要的漏洞。
系统设计靠判断,不靠一句神奇提示
Matt 希望两人能分享一些可写进提示词的系统设计方法。Mario 的回答很不「技巧化」。对他来说,这更像手艺:他得先摸清问题的解空间,才会形成方案。以前他会手写一些小程序、API 和类型,再在草稿里试验手感;现在可以把这件事交给 Agent,而且不是只生成一个版本,而是同时看十个版本。他的工作方式仍是不断迭代,直到方案既足够简单,又足够胜任。这很难被写成一句神奇提示。
Armin 的经验更多来自构建和运营 SaaS。他逐渐形成的原则是:出事时,最好什么都不做也不会让情况更糟;系统里要有开关,能在紧急时刻先换来一点喘息时间。他不认为存在一句魔法提示,能让 Agent 自动做到这些,因为这依赖你对数据流、流量规模和不断变化的上下文的理解。他提到一个刚碰到的例子:Agent 很愿意维护记录自己发现的文档,后来却根据一份过时说明,认定数据库里「只有 2000 条记录」。那份文件是数据库还空着时它自己写的,现在已经是数百万条。取舍当然完全不同。事情出错时,感到压力的仍是人,Agent 不会替你承担那种情绪。
Mario 认为,行业现在有一种「逃离理解」的倾向,这让他很难接受。如果你不再需要理解系统,那你的价值是什么?他们提到一种已经出现的场景:事故会上,没人真的知道发生了什么,大家都在提示自己的 Claude。这让他们觉得可怕。
这也连到所谓「黑灯工厂」:工厂自己运转,人不必再看代码。Mario 的判断很简单:如果真能做成,并且有经济价值,它现在就应该存在;他还没看到。Armin 说,一位朋友曾声称问题进跟踪系统后就能自动修复,但问他现在还用不用,对方说不用了,而且觉得该关掉,以免继续浪费 token。Mario 还提到,Steve Yegge 在演讲里提醒人们放慢速度,因为软件工厂最后往往会变成一团乱。他并不排除未来在某些更纯粹、更可检验的问题域里会出现类似工厂,但认为这需要真正的经济价值。
谈到工程师如何证明自己仍有价值,Mario 说得很直:很多软件任务已经不再必须由人来做。经验目前仍有市场价值;对更年轻的人,他没法给出轻松的保证,只能说将来仍需要有人看管这些软件工厂,而这些人至少得对系统有基本理解。Armin 则认为,如果日常都在证明自己为什么该留下,气氛本身就已经不对了。更值得先问的是:自己做的事是否还在创造价值。Mario 还补充,愿意并善于与人交流、理解用户真正需要什么,仍然是机器暂时难以替代的能力。
收尾时,Mario 说,他、Armin 和 Peter Steinberger 从去年初就开始密集使用这些工具,去年夏天已经把那一轮高度兴奋度过了。过去 8 到 12 个月,他并不觉得又出现了更大的能力跃迁。真正还没解决的,是组织如何围绕这种新工具建立可靠的工程流程。他自己还没看到一套已经成功、值得直接照搬的新模式。









