更多文章

AI 与开发者相关深度内容

RAG 是什么?和微调有何区别:2026 落地选型与排错指南

RAG(Retrieval-Augmented Generation) 就是:先从你的文档/知识库里检索相关片段,再让大模型基于这些片段生成回答。它解决的是「模型不知道你的私有资料」和「回答要可追溯来源」两类问题。

对比项 纯大模型问答 RAG
知识来源 训练数据 + 对话上下文 你的文档 / API / 知识库
能否引用内部资料 强(可强制 citation)
典型失败 幻觉、过时 召回错、引用漂、成本炸
适合 通用常识、写作 FAQ、制度、合同、客服、研究助手

三种常见场景怎么选

场景 要不要上 RAG 先验证什么
公司制度 / FAQ 值得试 召回 Top-5 是否含正确答案
合同条款核对 值得试 引用是否逐条支撑结论
纯创意写文案 先别上 没有“必须检索”的材料

RAG 和微调有什么区别?(先把最容易懵的说清)

很多团队一上来就纠结:我们是该做 RAG,还是该微调(Fine-tuning)?

最短答案:

  • 资料会更新、要可引用、要能指出“出自哪一段” → 优先 RAG
  • 要改模型说话习惯、固定格式、领域口吻,且知识相对稳定 → 才考虑 微调
  • 很多时候:RAG 解决“知道什么”,微调解决“怎么说/怎么做风格”;二者可以叠加,但起步通常先 RAG
对比 RAG(检索增强) 微调(Fine-tuning)
像什么 开卷考试:先翻资料再答题 把知识点背进脑子里再答题
知识更新 改文档/重索引即可,通常更快更便宜 要重新训练或继续训练,周期长、成本高
可追溯 容易要求“必须引用原文片段” 很难稳定指出答案来自哪条内部制度
典型价值 制度、FAQ、合同、客服、知识库问答 口吻统一、分类格式、特定推理习惯
典型风险 检索错了就答错(召回问题) 背错/过时知识更难发现,更新贵
什么时候先别上 没有可检索的文档 只有几页会变的制度,却想靠训练硬背

一个生活化例子

  • 问「我们公司差旅报销上限是多少?」→ 应该去翻最新制度:RAG 更合适
  • 希望模型回答永远用你们客服话术、固定 JSON 字段 → 微调或强约束提示词可能更合适
  • 既要引用最新制度,又要固定输出格式 → RAG + 输出约束(必要时再微调)通常比“只微调”更稳

选型口诀

  1. 知识常变吗?常变 → RAG
  2. 必须给来源吗?必须 → RAG
  3. 只是想让它更像你们的语气吗?→ 先提示词/少量样例,再谈微调
  4. 又变知识又要语气?→ 先 RAG 跑通,再考虑微调锦上添花

下面进入落地排错:不要一出问题就换模型,先拆召回、引用、延迟和成本。

RAG 的四种形态

场景 推荐形态 核心组件 风险
FAQ / 帮助中心 传统 RAG chunk、embedding、vector search、rerank 问法变化大时召回不稳
合同 / 制度 / 报告 GraphRAG / structured RAG 实体、关系、层级摘要 构图成本高,更新慢
多文档研究 Agentic RAG query planning、tool use、multi-step retrieval 延迟和成本上升
客服 / 内部知识库 RAG + 评测集 golden questions、citation、feedback loop 没有评测就无法持续改进

Microsoft GraphRAG 的官方资料把 GraphRAG 定位为从非结构文本抽取结构化数据,并用图谱和摘要增强查询,可参考 Microsoft GraphRAG GitHubMicrosoft GraphRAG docs。这类方案适合关系复杂的文档,不适合每个普通 FAQ 都上。

7 天试点流程

  1. 第 1 天:选 30-50 个真实问题,覆盖简单事实、跨文档、边界问题和无答案问题。
  2. 第 2 天:整理文档版本、来源、更新时间和权限边界。
  3. 第 3 天:跑 baseline,记录召回片段、答案、引用和延迟。
  4. 第 4 天:调整 chunk、embedding、rerank 或 graph 结构,只改一个变量。
  5. 第 5 天:加入引用检查,验证每个结论是否有片段支持。
  6. 第 6 天:记录 token、延迟、缓存命中和失败样本。
  7. 第 7 天:决定继续优化、缩小范围或暂停。

最小评测表

问题类型 样例数量 通过标准
单文档事实 10 答案准确且引用原文
跨文档比较 10 能找齐关键来源
无答案问题 5 明确说无法从资料判断
时间敏感问题 5 能说明资料日期
权限边界问题 5 不泄露不可见内容

FAQ

2026 年做 RAG 还需要向量库吗?

多数场景仍需要,但向量库只是底层组件。真正决定质量的是文档处理、检索策略、引用约束、评测集和监控回路。

GraphRAG 一定比传统 RAG 好吗?

不一定。GraphRAG 适合关系复杂、跨文档推理多的资料。如果只是帮助中心 FAQ,传统 RAG 加 rerank 和评测集可能更划算。

RAG 项目最先补什么?

先补固定问题集和引用检查。没有评测,任何优化都只是感觉。

用 RadarAI 把关注变成固定节奏

如果只靠社交平台刷热度,很容易在同一天看到十几个互相矛盾的结论。更稳的做法是把关注动作拆成三步:先看官方发布和仓库变化,再看开发者是否真的能复现,最后决定是加入 watchlist、做小样本测试,还是暂时忽略。RadarAI 适合作为第一层过滤器:先从每日更新里发现变化,再回到官方文档、GitHub 仓库和产品页面核验。

适合继续阅读:

具体任务场景:内部制度问答 RAG

假设团队要做一个内部制度问答系统。输入是员工手册、报销制度、权限流程和历史问答;问题题包括“哪些费用可以报销”“审批超过几天怎么办”“某个例外情况是否适用”。第一轮不要追求全公司上线,而是选 30 个常见问题和 10 个边界问题做评测。

输入 动作 验收 失败样本
制度文档 切分、索引、保留来源 能召回正确条款 只召回相似但不相关段落
常见问题 生成答案和引用 答案短、引用支持结论 答案正确但引用错
边界问题 判断资料不足 明确说无法判断 虚构制度之外的规则
新版这份指南档 更新索引 旧答案不继续引用过期条款 新旧制度混用

这个场景可以暴露 RAG 的核心问题:召回、引用、版本、权限和评测。只要其中一项没有记录,上线后就很难排查。GraphRAG 或 Agentic RAG 可以解决部分复杂关系问题,但也会带来构图、延迟和维护成本。

发布后监控什么

指标 说明 异常时先查
无答案率 模型承认资料不足的比例 文档覆盖或问题分类
引用准确率 引用是否支撑结论 citation prompt 和片段切分
召回命中率 正确文档是否进入候选 embedding、hybrid、rerank
平均延迟 用户等待时间 top-k、rerank、缓存
单问成本 token 和服务成本 上下文拼接和模型选择

这些指标比“用户觉得好不好”更可执行。RAG 项目只要有固定问题集和这些监控项,就能持续优化;没有它们,就会变成每次出错都靠猜。

从技术优化回到业务答案

RAG 团队很容易沉迷检索参数,但业务方只关心答案是否可信。每次优化都要回到三类样本:常见问题、边界问题、无答案问题。常见问题看效率,边界问题看准确性,无答案问题看系统是否克制。只有这三类都稳定,RAG 才适合扩大范围。

决策记录模板

把一次关注记录写下来,比临时争论更有用。可以用下面这张表作为团队内部记录格式:

字段 写法 示例
触发信号 从哪里看到这个变化 官方文档、GitHub release、RadarAI 更新
相关任务 它可能影响哪个现有流程 代码审查、客服问答、知识库、模型选型
验证动作 准备用什么小样本测试 30 分钟 quickstart、20 个固定问题、一个低风险 bug
通过标准 什么结果才算值得继续 能复现、可审查、成本可估算、失败可回滚
当前决定 watch / test / adopt / skip 先 watch,两周后复查
复盘日期 什么时候再看 7 天、14 天或 28 天

这个记录不需要复杂,但必须可追溯。很多低参与内容的问题,是读者看完没有下一步;很多团队内部讨论的问题,是每次看到新工具都从零开始争。把信号、任务、验证和决定写成一行,既能减少重复讨论,也能让后续复盘有依据。

发布后如何复盘这个页面

内容刷新后,不只看排名。更应该看四类指标:第一,engagement_rate 是否比刷新前提升;第二,engaged_sessions 是否随 sessions 增长;第三,页面里的相关链接是否有人点击;第四,是否带来订阅、收藏或继续阅读。若 sessions 高但参与仍低,优先检查首屏结论是否清楚、表格是否太靠后、内链是否像“更多文章”而不是下一步动作。

如果 7 天后仍然低参与,可以先小修标题和开头;如果 14 天后仍然没有改善,检查页面是否与相邻主题重复;如果 28 天后仍然没有点击和停留,就考虑把它并入更强的主题页,保留原 URL 的流量入口和解释价值。

下一步行动

如果你负责这个主题,不需要一次性做完所有验证。先选一个低风险样本,把输入、动作、验收和失败记录下来;再把结果放进团队周会或个人复盘。能复现、能解释、能回滚的变化,才值得进入下一轮测试。不能复现但持续出现的变化,保留在 watchlist;既不能复现也无法对应实际任务的变化,直接跳过。

← 返回更多文章