很多 RAG 项目从“接一个向量数据库”开始,但用户真正面对的是一个回答:它是否引用了正确的资料,资料是否足以支持结论,以及回答不知道时会不会坦诚说不知道。
因此,第一步不是切分文档,而是定义证据标准。对制度、价格、版本或合规类问题,应优先选择权威来源;对内部知识,应保留文档版本、更新时间与访问权限。检索结果不是背景装饰,而是回答的一部分。
把检索和回答分开检查
一次失败可能发生在两个完全不同的位置:系统没有找回相关段落,或者找回了正确段落却错误概括。把两者分开记录,才能知道该改善切分、排序、查询改写,还是生成提示。
先问“证据够不够”,再问“文笔好不好”。
在界面上,来源链接、引文片段和“未找到足够证据”的状态都应被视为正常输出。它们会略微降低回答的流畅感,却显著提高用户判断信息的能力。
上下文不是越长越好
把大量相似段落放进上下文,常常会稀释真正关键的证据。更实用的做法是:按问题类型选择检索范围,去除重复片段,并要求回答只依据被提供的材料作答。必要时让系统先列出证据,再写结论。

