把基座和 harness 分开测:基座看它在限定任务上稳不稳定,harness 看它能不能把失败接住、把过程露出来、把结果验到可交付。
AI根据立正公开的文章和视频整理,不是他本人回复。重要的判断,请回到出处核对。
基座能力要按任务和场景限定来测
立正反对只凭 benchmark 或个例就断定模型 A 强于 B,更该问的是哪个模型适合哪类任务、怎样发挥它的潜力1。放到 agent 交付上,基座这一层要测的是“在你这批真实任务上,模型本身能稳定做到什么”:同一任务换几种输入、跑多轮,看它是否在关键约束上反复出错,还是只是偶发波动。这一步的作用是划出模型能力边界——如果错误集中在任务本身超出模型稳定能力,换 prompt 收效有限,该换模型、换工具或降低任务复杂度,而不是继续调指令2。
harness 要测它能不能接住失败
立正把 harness 比作马具:模型是马,缰绳、马鞍、行业上下文和合规这些才是 harness,模型公司做通用,纵深要靠 harness 补3。他讲 L6 时列出的正是这一层要具备的东西:重试、降级、结构化输出校验、工具结果校验、错误恢复、人工升级、可观测、版本控制、模型路由、回归测试4。所以测 harness 不是看 demo 跑通一次,而是看模型不稳定、工具失败、环境变化时系统还能不能交付4。具体做法:故意让工具返回异常、让输入越界,看它是报错、静默给出错误结果,还是走降级或转人工;再看工具调用轨迹和中间产物是否可见,黑盒输出几乎无法调试2。
验收标准要写成交付条件而非感觉
立正强调每个任务都该有明确、可执行的验收标准:是否满足某条件、是否避免了某类错误、是否覆盖关键边界、是否符合格式与约束2。测 agent 交付时,这套标准应同时挂在两层上:基座层看单次生成是否达标,harness 层看系统能否在输出前自检、在失败后修正并留下记录。诊断也要分类,context 缺失、上下文窗口饱和、指令歧义、模型能力边界是不同问题,用同一套动作去修只会靠运气2。
现有材料没有给出针对 agent 交付能力的成套评测指标或打分方法,以上是从模型评价、L6 系统能力和验收标准几处推出来的测法。
出处
- 1如何评价DeepSeek R1? | 预测的意义
说明模型评价应限定任务和场景,适合核对基座层评测的前提。
- 2AI User 与 AI Builder 的 5 个差距,和背后具体技术原因 | 科技大厂打工人版
验收标准、故障分类诊断、可观测性三件事讲得最具体,适合核对怎么测和怎么定位问题。
- 3Agent 时代的投资与生存法则|Indigo 西雅图线下分享 Notes & Insights
解释 harness 与模型的区别及行业纵深的价值,适合理解两层为何要分开测。
- 4AI产品的六个层次
列出 L6 系统韧性所需的校验、重试、降级、人工升级等组件,适合核对 harness 该测哪些能力。
你也有想问的?
卡住的时候,问问立正:回答附有出处,可以点回原文核对。
也可以接着问:
别人还问了
- 我可以怎麼使用你
你可以把它当成一个读立正材料的助手:问一个具体问题,它帮你理解他的判断、把想法套到你的处境,或指出该从哪篇读起。
- 我想知道怎么写简历会更好,有哪几项规则
简历的目标是拿到面试,所以先定具体岗位和公司,再围绕对方要什么删减内容,把最有穿透力的成果放前面,而不是把经历都堆上去或包装。
- 研究员加入一家还没验证收入的 AI 创业公司,同时工作签证也绑在这家公司上,这种风险该怎么评估?什么条件下仍然值得去?
这笔风险可以按“业务、老板、项目、钱”的顺序评估,但签证把风险集中到了公司这一层;值得去的条件,是公司业务有真实增长信号、你能对结果负责,并且现金和身份条款留出退路。
- 研究员在什么情况下应该放弃一份稳定的高薪工作,去加入一家刚完成大额融资、但收入和留存还没被验证的 AI 创业公司?如果把它当作一两年的跳板,应该用什么标准判断值不值得,入职前最该问清楚哪些问题?
关键不在创业公司有多热,而在你能否在入职前把“可验证的成长”和“可带走的成果”问清楚;若一两年后只剩公司名、没有独立结算过的能力,跳板就不成立。
- 什么是真正的ai-native?
真正的 AI-native 不是把 AI 用得多,而是当 AI 的成本和能力变了以后,把工作重新算一遍:把确定性交给程序,把模糊判断交给 AI,把验收标准和最终判断留给人。
- 我想问一下,我想快速入门Codex,Codex的费用每月50.20美金,有必要吗?
入门阶段不必先付每月50美元:先花一晚上真正用起来,把方法学会,工具选择可以后换。