问答系统怎么做

把最常被问的几类问题各整理成一张判断卡，写清这个判断在什么条件下成立、不能推出什么、该先问清什么；回答时把卡片和相关原文一起交给模型，模型只负责挑来源编号，链接和时间点由服务器补上，这样它编不出假链接。做这套东西时，代码基本由 Codex 写，人主要看每一版说哪里不行；9月30日下午开工，第二天中午上线⁠1。

把文档切分、embedding、向量库、top-k 召回串成一条流程，听起来完整，但到了真实场景往往不成立：切分该固定大小还是让模型决定、embedding 是否必要、为什么一定要用向量库、该召回五段还是二十段，这些都没有标准答案。切太大，答案被无关信息淹没；切太小，一个答案可能被切开。换一个新模型，整套东西又可能要重做⁠2。

回答质量换更强模型后，一次回答可能要等三十多秒，容易让人以为系统挂了。可以在提问两秒内先列出找到的材料和回答思路，让等待有反馈；链路上要注意代理把小数据包攒着不发的问题，加心跳包并主动 flush 才能正常。换成更快的模型后，一次回答大约八秒⁠1。