大模型开发工程师能力2026年10月26日提问追问3次

大模型作为一个开发工程师,主要开发企业内部应用和对客的一些应用,应该掌握到什么程度,应该需要知道哪些知识?

对做企业内部和对客应用的开发工程师,重点不在训练模型,而在把模型接进真实业务:管好上下文、做编排与集成、对结果负责;理解客户与业务判断比单一技术栈更值钱。

AI根据立正公开的文章和视频整理,不是他本人回复。重要的判断,请回到出处核对。

核心能力是把模型落到业务里

材料里的观点

立正把企业 AI 应用归纳成两类:一类帮企业管理内部流程、文档、知识和决策,把内部上下文理清楚;另一类帮企业理解和服务客户,涉及 CRM、个性化、行为预测和客户旅程。做这两类应用的工程师,真正稀缺的是把模型能力接进这些流程、并让它在真实场景里稳定跑起来的能力,而不是会调几个 API。他提到新一代 FDE 和普通工程师的差别,就在于真的懂 AI 产品里模型接入那部分,并且懂得怎么把东西做好,这被形容为对能力要求很高⁠1,2。

上下文工程是内部应用的主要难点

材料里的观点

内部应用效果不好,常见原因不在模型,而在上下文没管好。立正列了三层工作:一是上下文怎么分层和管理,包括记忆分层、蒸馏策略和隔离边界,属于架构设计;二是怎么让 AI 渐进式加载上下文,涉及索引设计、加载策略和窗口管理,属于技术实现;三是怎么让规范持续起作用,涉及规则注入、自动检查和可观测性,属于工程化。这三件事要同时具备 AI 工程经验和组织经验的人来设计⁠3。对客应用同理:客户数据、历史交互、业务规则都要能被模型按需取用,而不是每次重新喂一遍。

往业务结果靠,比堆技术栈更抗替代

AI推演

立正总结过,过去工程师为某项技能负责,比如前端、后端、Java、React;AI 时代单一技能的可替代性上升,越靠近业务结果、越能对结果负责的人越难被取代。AI 能改 prompt、写代码、出方案,但最后仍要有人承担责任、做判断、和客户一起把事情做成⁠4。放到你的处境:如果主要做企业内部工具,可以试着挑一个现有流程,把它的上下文整理成模型能稳定调用的形式,观察效果是否从“演示能跑”变成“同事日常愿意用”;这个反馈能帮你判断自己缺的是模型知识还是业务理解。

现有片段没有给出具体的技术清单或掌握程度分级,关于训练、微调、评测的深度要求,材料里没有直接依据。

出处

  1. 1他的FDE团队从30人扩到100人,但为什么很多大厂工程师甚至不知道这个岗位?

    视频发言:立正2026-07-17

    说明懂模型接入、能把 AI 产品做好的工程师稀缺在哪,适合校准深度预期。

  2. 2Agent 时代的投资与生存法则|Indigo 西雅图线下分享 Notes & Insights

    超线性学院2026-04-29

    把企业 AI 应用分成公司模型和客户模型两类,适合理解内部应用与对客应用的差别。

  3. 3你团队的 AI 效果不好,问题不在模型,在 Context

    超线性学院 · 会员2026-04-09

    讲企业内部 AI 应用在上下文分层、渐进加载和工程化上的具体难点,适合核对“该掌握什么”。

  4. 4AI Agent 时代的 FDE:把模型能力落到真实业务里

    超线性学院 · 会员2026-05-05

    讨论工程师从技能负责转向业务结果负责,适合判断能力重心该放哪。

追问2026年10月26日

立正列了三层工作:一是上下文怎么分层和管理,包括记忆分层、蒸馏策略和隔离边界,属于架构设计;二是怎么让 AI 渐进式加载上下文,涉及索引设计、加载策略和窗口管理,属于技术实现;三是怎么让规范持续起作用,涉及规则注入、自动检查和可观测性,属于工程化。这三件事要同时具备 AI 工程经验和组织经验的人来设计 ⁠3。对客应用同理:客户数据、历史交互、业务规则都要能被模型按需取用,而不是每次重新喂一遍。 我要能做三层工作,需要掌握哪些知识点

三层工作对应的知识不是三套并列技能,而是一条从“判断什么该进上下文”到“让规则自动生效”的链:先会分层与取舍,再会检索与加载,最后会写规则、做检查、留可追溯记录。

分层与加载,核心是取舍而非存储

立正把上下文分成工作记忆、项目记忆、组织记忆,并规定哪些保留原始形态、哪些提炼、哪些定期清理;渐进式加载则要求建索引、做分类、设计加载策略,让 AI 只拿到当前任务需要的那部分⁠1。这里真正要掌握的是判断力:什么材料属于当前有效,什么只是需要时才读的参考。他在 landing page 迭代里发现,规则越加越多、模型同时满足所有要求,结果反而越来越平均,后来把材料分成当前有效的资料和按需调用的参考两类⁠2,3。所以知识点包括:记忆分层的划分标准、提炼与清理的触发条件、索引与检索(分块、embedding、混合检索、重排、元数据过滤、权限感知)这些 RAG 环节⁠4,以及隔离边界——项目记忆与个人记忆分开、用版本记录每次修改,才能检查哪里变了、改错能回退⁠5。

规范要能被检查,才谈得上持续生效

团队的设计规范、代码质量要求、审核 checklist 可以写成 AI 能理解的规则注入工作流,让 AI 自动做 double check,效果相当于让最资深的人出现在每次具体工作里⁠1。这要求的不只是会写规则,还要能把隐性判断外化成规则、模板、技能和上下文⁠6,并建立可观测性:记忆被自动更新时,要能看到改了哪些条目、为什么删、为什么合并,否则出错无法定位和改进⁠5。对客应用同理,客户数据、历史交互、业务规则要能被按需取用,而不是每次重新喂一遍;这背后是权限、来源追踪和新鲜度控制这些工程问题⁠4。

先在一个真实任务上把三层串起来

AI推演

如果目标是同时具备三层能力,可以先选一个你反复做的任务,把它现有的材料按“当前有效/按需参考”分一次层,再给按需参考部分建一个能按任务检索的入口,最后把一条你本来靠人盯的质量标准写成可检查的规则。这样一次尝试能同时暴露三个判断:分层是否切中真实决策、检索是否真的只取到需要的部分、规则是否可执行且出错可追溯⁠1,2,5。哪一环卡住,就说明那一层的知识缺口最该先补。

这些材料给的是分层、加载、规则注入的原则和案例,没有给出可直接照搬的技术选型或实施步骤。

出处

  1. 1你团队的 AI 效果不好,问题不在模型,在 Context

    超线性学院 · 会员2026-04-09

    三层 Context Architecture 的原始表述,适合核对分层、渐进式加载、持续提炼和规范注入各自解决什么问题。

  2. 2如何做一个考虑周全的landing page?(101次迭代后的7个lessons)

    超线性学院 · 会员2026-08-03

    用真实迭代说明上下文过多会互相竞争、需要优先级,适合理解分层取舍的判断标准。

  3. 369 个版本,99 次 commit后,我做好了Stay Superlinear的主页

    超线性学院2026-07-18

    可回到原文核对这部分判断

  4. 4AI产品的六个层次

    超线性学院2026-04-25

    讲清 RAG 与工具调用涉及的具体技术环节,适合补检索、权限、引用与幻觉控制的知识点。

  5. 5通过Jev,辨清AI新技术的叙事陷阱:谁替你决定了什么叫“厉害”?

    超线性学院2026-09-20

    用记忆自动更新的案例说明隔离、可检查和可回退为什么是工程化的一部分。

  6. 62026,如何在面试中证明自己"真的懂AI"

    超线性学院2026-03-17

    可回到原文核对这部分判断

追问2026年10月26日

没有硬性知识需要补充的吗?

有,但缺的不是又一套硬知识,而是把知识变成判断力的那部分:知道技术能做什么、在你的任务里值不值得用,以及靠实践长出来的手感。

硬知识是入场券,判断力才是稀缺部分

立正讲新技术时把工作分成几层:看懂技术、知道它在哪些任务里好用或不行,这两步认真读文档、做实验就能完成;再往后是拿回评价标准,判断质量、延迟、一致性里哪个对你真正重要,并找到不用它时最好的替代方案,最后才决定值不值得投入⁠1。所以硬知识要补,但它只把你送到“能评价”的门口。他讲学习时也把知识分成三类:科学能从书里学,手艺不能,手艺是看到方案 A 和 B 就知道 A 好、却说不太清为什么的体感,只能从大量实践里长出来⁠2。

缺的那块要在自己的任务里试出来

AI推演

如果只补概念,容易停在“知道它是什么”,却答不出“对我的任务值不值得用”。一个可试的做法:挑你手上一个真实的小需求,用新工具做一版,同时用你原本最熟的办法做一版,比较质量、耗时和你需要返工的地方。这个对比会逼你说出自己的评价标准,也会暴露你在哪一步其实没看懂。立正强调,新工具提出一个问题,不等于你就自动多了一份必须完成的工作,值不值得现在投入要自己判断⁠1。

这些片段谈的是如何评价技术和学习手艺,没有给出针对大模型开发的具体知识清单;具体该补哪些技术点,现有材料不能替你列。

出处

  1. 1从大厂高薪到自己赚钱,中间差的是什么?

    超线性学院2026-09-22

    讲清从看懂技术到判断值不值得用的几层工作,适合核对“硬知识够不够”这个问题。

  2. 2名词、动词、和手艺 -- 学AI到底在学什么?

    超线性学院 · 会员2026-04-15

    区分能从书本学的知识和只能靠实践长出的手艺,解释判断力为什么补课补不来。

追问2026年10月26日

所以是哪些硬知识呢?

硬知识不是又一套技术名词,而是三层:上下文怎么分层与取舍、怎么按需检索加载、怎么把规则写成可自动执行的检查;再往上,是判断某段技术在你的任务里值不值得用。

上下文工程的三块硬知识

材料里的观点

第一块是分层与取舍:把上下文分成当前任务直接要用的、项目积累的经验决策、跨项目的长期知识,并定下什么保留原始形态、什么提炼、什么定期清理⁠1。第二块是渐进式加载:建索引、做分类、设计加载策略,让 AI 执行任务时自动取到需要的那部分,不多不少⁠1。第三块是规范注入与持续提炼:把设计规范、代码质量要求、审核清单写成 AI 能理解的规则,让它在做事时自动对照检查;同时定期把会议纪要、讨论记录加工成可复用的判断⁠1。这三块对应你之前说的架构设计、技术实现和工程化,是同一件事的三个切面。

检索路线本身也是要判断的知识

资料多到一次读不完时,先试保留文档结构的做法——markdown 加搜索加按问题路由,让 AI 自己选文件、补读,往往比先搭一套固定切片检索更简单,也更能保住理解所需的上下文⁠2。需要多轮查找、交叉验证或统计时,再让 Agent 自行安排步骤⁠2。框架那层要谨慎:现成框架会替你规定问题怎么拆、状态怎么组织,任务符合它的假设时省事,一旦要对接企业已有接口、改变执行方式,成本就暴露出来⁠2。所以硬知识里有一项是知道这些默认路线各自锁定了什么假设。

知识要落到能判断值不值得用

AI推演

立正把能力说成穿透不确定性的能力:现实里确定的知识和技能只占一小部分,大部分是不确定的⁠3。放到你的处境,硬知识的用处是让你能判断某段技术在你的任务里值不值得上——比如客户数据、历史交互、业务规则,是先切片检索还是先保留结构按需加载,取决于任务需要怎样的信息,而不是先接受某个默认路线⁠2。可以拿手上一个对客场景试:把资料按原结构放好,只加搜索和路由,看模型能否自己找到并补读;如果它频繁找错或漏掉关键关联,再考虑更重的索引方案。这个对比能告诉你缺的是资料组织还是检索策略。

关于上下文三层架构的那篇是发布在立正账号下的文字,发布归属不证明每句都由他亲笔写成;检索路线部分引用的是鸭哥的观点,不是立正本人的判断。

出处

  1. 1你团队的 AI 效果不好,问题不在模型,在 Context

    超线性学院 · 会员2026-04-09

    直接列出上下文架构的三层内容:分层管理、渐进式加载、持续提炼与规范注入,适合核对硬知识的具体清单。

  2. 2通过Jev,辨清AI新技术的叙事陷阱:谁替你决定了什么叫“厉害”?

    超线性学院2026-09-20

    讲检索路线怎么选、框架会锁定哪些假设,适合理解为什么检索策略本身也是要判断的知识。

  3. 3AI时代的真本事:穿透不确定性的六个能力

    视频发言:立正2026-06-11

    说明确定性的知识和技能在现实里只占小部分,适合理解硬知识该往哪个方向用。

你也有想问的?

卡住的时候,问问立正:回答附有出处,可以点回原文核对。

也可以接着问:

所有问题 →