“底层”在这批材料里有两个入口:一是模型为什么能学(Hinton 的信念),二是用 AI 时真正决定成败的上下文与任务处理方式。想动手理解,从后者入手更快见效。
AI根据立正公开的文章和视频整理,不是他本人回复。重要的判断,请回到出处核对。
底层分两层:模型原理与使用原理
一层是模型本身为什么成立。刘嘉教授研究 Hinton 多年,认为支撑他熬过 AI 寒冬的不是“这个方法现在有效”,而是一个更深的信念:大脑由神经元连接构成,智能从结构中涌现,那么模拟这个结构,智能就没有不出现的理由1。这解释的是神经网络这条路为什么值得走,属于原理层。另一层是使用层:真正拉开差距的不是多知道 agent、harness 这类名词,而是处理任务的方式——什么时候多给上下文、什么时候少给,复杂任务怎么拆,哪些环节必须人判断,出错时能定位是模型能力不够、上下文没给够,还是中间环节出了问题2。想“了解底层”,先想清楚你要的是哪一层。
上下文是使用层最实的底层
材料里的观点把上下文管好,是使用层里最接近“底层”的一件事。有材料把上下文基础设施拆成三层:概念层画出团队的上下文散落在哪、哪些该被日常调用、哪些该长期沉淀;技术层做分层记忆、按需加载、持续提炼和规范注入;工具层用具体工具和流程把它跑起来3。核心判断是 AI 的上下文窗口有限,全塞进去会撑爆,什么都不给又等于空壳,所以要让它自动找到并加载刚好够用的那部分3。如果你只是想理解 AI 怎么被用好,这一层比模型参数更值得先看。
材料没有覆盖模型训练、数学原理等更技术性的底层内容,Hinton 那部分也只是信念层面的转述。
出处
- 1对话清华大学刘嘉教授:站在脑科学的顶端看AI,人类智能注定要被AI取代,这也是我的存在意义
想理解模型原理层的“底层信仰”,这份对 Hinton 思想的转述最直接。
- 2AI的正确打开方式:不学概念,学动作
想理解使用层为什么名词不重要、处理任务的方式才重要,这份讲得最清楚。
- 3你团队的 AI 效果不好,问题不在模型,在 Context
想把上下文当作使用层的底层来理解,这份给了完整的三层拆解。
你也有想问的?
卡住的时候,问问立正:回答只从立正讲过、写过的东西里来,每一段都能点回原文。
问类似的问题也可以接着问:
别人还问了
- 当前最好的副业和税收收入是什么?如何在这个基础上实现复利?应该如何开始?是否需要以及如果需要的话如何加入AI
资料不支持给出“当前最好的副业和税收收入”这种排名,它只提供了一套判断:副业选高赔率、多试错,复利靠把一次性经验沉淀成可复用系统,AI 用来放大你已有的领域积累。
- meta level 好用的prompt
好用的 prompt 分两种场景:薄工具里它是一次固定指令,够用就行;让 AI 干活时,它要自带上下文、说清验收标准,而不是规定每一步。
- Scaling-law.csvable.com里面,数据教的结果,是不是AI发展的必然?
不是必然。scaling law 描述的是当前阶段算力、数据、参数一起放大时能力上升的经验规律,它成立有前提,也会遇到瓶颈,不是一条永远向前的直线。
- 怎样提问,如何提出好问题
好问题的核心是让对方看见你的处境和依据,从而最快补上你们的认知差距;先做功课、把事实和你的猜测分开,再问一个会影响你选择的问题。
- 什么时间点,开始做自媒体最好?
没有需要等待的最佳时间点,现在就可以开始;但先想清楚你要放大什么,再决定怎么开始。
- 如果要学好 AI 的话,那十个概念是最重要的? meta level 上的。
与其背十个名词,不如掌握几个反复出现的动作:拆解需求、定义好坏、多步迭代、调用工具、自我纠错,以及先想清楚要解决什么问题。