问答系统的难点不在检索流程本身,而在判断卡、来源编号和检索粒度这些细节:让模型只挑来源、不编链接,并容忍回答慢一点。
AI根据立正公开的文章和视频整理,不是他本人回复。重要的判断,请回到出处核对。
先写判断卡,再让模型挑来源
材料里的观点把最常被问的几类问题各整理成一张判断卡,写清这个判断在什么条件下成立、不能推出什么、该先问清什么;回答时把卡片和相关原文一起交给模型,模型只负责挑来源编号,链接和时间点由服务器补上,这样它编不出假链接。做这套东西时,代码基本由 Codex 写,人主要看每一版说哪里不行;9月30日下午开工,第二天中午上线1。
检索粒度是真正的工程难点
材料里的观点把文档切分、embedding、向量库、top-k 召回串成一条流程,听起来完整,但到了真实场景往往不成立:切分该固定大小还是让模型决定、embedding 是否必要、为什么一定要用向量库、该召回五段还是二十段,这些都没有标准答案。切太大,答案被无关信息淹没;切太小,一个答案可能被切开。换一个新模型,整套东西又可能要重做2。
体验上要让人等得住
材料里的观点回答质量换更强模型后,一次回答可能要等三十多秒,容易让人以为系统挂了。可以在提问两秒内先列出找到的材料和回答思路,让等待有反馈;链路上要注意代理把小数据包攒着不发的问题,加心跳包并主动 flush 才能正常。换成更快的模型后,一次回答大约八秒1。
这些做法来自立正做自己问答系统的记录,规模、模型和链路条件与你的项目未必相同;材料没有给出判断卡的具体写法。
出处
- 1问问立正:直接问我讲过的内容,Founding Member不限次
记录了这套问答系统的完整做法:判断卡、来源编号、心跳包和上线节奏,是理解整体方案的主要来源。
- 2AI的正确打开方式:不学概念,学动作
讲清了检索流程在真实场景里为什么容易失效,适合核对切分、embedding、top-k 这些细节上的取舍。
你也有想问的?
卡住的时候,问问立正:回答附有出处,可以点回原文核对。
也可以接着问:
别人还问了
- 什么是agentic rag呢,和普通的rag有什么区别,照样会做chunk、向量化、索引、排序等吗
普通 RAG 是固定流程:切分、向量化、检索、重排、拼上下文再让模型回答;agentic RAG 把检索变成 agent 的一个动作,由它自己决定搜什么、搜几次、要不要换工具,chunk 和向量化可能还在,但不再是必经的固定步骤。
- RAG 值不值得学习?它有什么局限性?
RAG 值得学的不是那套流程名词,而是它背后“怎么让模型用上你的上下文”这件事;只学 pipeline 容易停在简历打勾,判断不了它在你任务里值不值得用。
- 想了解 RAG 怎么实现,从哪里开始读?
先读那篇讲 AI 产品六个层次的文章,它把 RAG 的完整链路和真正该学的技术点讲清楚了;再配合那期讲“不学概念、学动作”的视频,避免一上来就陷进切分和 embedding 的流水线细节。
- 总觉得现在学习新东西,技术没有什么意义了,因为ai能比你做的快10倍,同时也觉得任何东西/poc都没有门槛,我能几天之内学习新的技术,并deliver。如果我能,我相信别人也能,那我的竞争力到底在哪里? 学更广的知识还是干别的什么?
几天做出一个能跑的东西,只证明你当下交付得快,不证明能力留在你身上。竞争力更可能来自撤掉帮助后仍能判断、拆解和交付,以及别人做不出来的深度。
- workbuddy普通人怎么用
普通人用 AI 的关键不是学会某个工具,而是从“偶尔用一用”变成“让 AI 成为核心生产力”,并围绕自己反复做的一件事持续积累。
- 如何学习 ai
学 AI 要当手艺练,不是当知识背:围绕真实任务动手,用“撤掉帮助、隔段时间、换个条件还能不能做”来检验自己是否真会。