RAG 的可信度主要来自资料治理、召回评测与来源展示,不是来自更长的提示词。
三层职责要分开
Embeddings
把查询和资料映射到向量空间,用于寻找语义相近片段;它不判断片段是否真实或仍然有效。
LLM
在给定片段内提取、比较和组织答案;上下文不足时应明确拒答或要求补充。
业务系统
执行权限过滤、向量存储、版本淘汰、来源链接、日志和人工反馈。
内容负责人
决定哪些资料可作为依据、何时过期,以及什么问题必须升级给人工。
从小型评测集开始
- 1收集 20–50 个真实问题,并为每题标注应召回的文档或片段。
- 2按标题和语义边界切分资料,附来源、版本、更新时间和权限元数据。
- 3使用同一模型向量化资料与问题,对召回数量、阈值和分段大小做对照。
- 4分别评估“是否找到正确资料”和“答案是否忠于资料”,不要只看最终文案是否流畅。
限制与成本
向量化按输入 Token 产生费用,重建索引也会重复消耗;向量数据库和检索服务不包含在 API 内。资料更新频繁时,应做增量索引并明确删除传播机制。
准备好开始了吗?
注册并完成邮箱验证即可获得 ¥10 试用额度,通常数分钟可完成首次 API 调用。