速查在线工具箱该微调模型还是搭 RAG？
知识会变就用检索，行为要固定才用微调，两者并不冲突。
先分清你要解决的是哪一类问题：模型不懂你的资料，还是模型懂但做得不符合要求。前者是知识缺口，指向 RAG，也就是在提问时把相关资料检索出来一起喂给模型；后者是行为问题，指向微调，也就是用你的样例去调整模型权重。搞反了方向，花再多钱也不会有好结果。
一个常见的误区是拿微调来「灌知识」。这几乎总是错的：事实通过微调进到权重里会变得模糊，数据一更新就得重新训练，而且模型仍然会在这些事实周围编造。所以判断顺序应该是——先看好的提示词加长上下文够不够；不够再上 RAG；只有当提示词已经到天花板、或者需要锁定输出格式与口吻、或者想用小模型降本时，才考虑微调。最成熟的形态是两者结合：微调定行为，RAG 供事实。
要做企业内部问答，手里有一堆文档，第一个决策就是：把资料微调进模型，还是搭一套检索？这个问题几乎每个团队都会问，而答案取决于一件很容易被忽略的事——你要解决的是知识问题还是行为问题。
下面只做方案层面的对比与选择说明，不涉及任何具体供应商或产品推荐。
1三条路径的分工
从便宜到贵排一遍，多数情况停在第二级就够了。
| 方案 | 最擅长 | 明显短板 | 适合什么 |
|---|---|---|---|
| 改进提示词 | 快速验证、小体量且静态的资料 | 知识大了塞不进，也不会形成持久能力 | 原型阶段、文档量很少 |
| RAG 检索增强 | 知识会变、需要给出处、资料量大 | 质量受检索效果制约，会加一点延迟 | 客服问答、文档检索、内部知识库 |
| 微调 | 固定输出格式、稳定口吻、窄任务、小模型替大模型 | 知识冻结在训练那一刻，更新要重训 | 结构化抽取、风格统一、降本降延迟 |
顺序上有个经验规则：能用前一级解决的，就别跳到下一级。真正需要微调的场景比大多数人预想的少。
2关键维度对比
同样是「让模型懂我们」，两条路在几个关键点上差别很大。
| 维度 | RAG | 微调 |
|---|---|---|
| 知识时效 | 改文档即时生效 | 冻结在训练时刻，更新需重训 |
| 能否给出处 | 能，指向具体文档片段 | 不能，回答不带来源 |
| 前期投入 | 中，需要检索管道 | 高，需要数据集与算力 |
| 单次成本 | 偏高，提示更长 | 偏低，提示可以更短 |
| 上线周期 | 天到周 | 周到月 |
| 主要风险 | 检不到就答不对 | 事实学得模糊，照旧会编 |
延迟也要算：RAG 会额外加一段检索与拼接的时间，对实时语音这类场景要提前评估。
3怎么判断自己属于哪种
几个问句就能定方向。
- 资料会经常变吗
- 会变就是 RAG。微调把知识写进权重，数据一变就过期，而你没法只更新「一条」。
- 需要给出处吗
- 需要就是 RAG。检索能指出答案依据的是哪段文字，这是审计和信任的前提。
- 问题出在格式还是内容
- 模型知道答案但格式总不对、口吻不对，才是微调的信号；答不出内容，是知识问题。
- 提示词试到底了吗
- 明显有效的提示词、几个示例、把资料直接贴进长上下文，这些都没试透之前不要上微调。
- 是想降本吗
- 让大模型生成高质量样例，再微调一个小模型来复现，是微调最有说服力的商业理由之一。
顺着这个问题往下用
全部工具总览 →相关疑问
微调能替代 RAG 吗？
在需要最新事实或需要给出处的场景下不能。微调改变的是行为与风格，知识一旦写进权重就固定在那个时间点。多数生产系统最后是两者并用：微调负责稳定表现，检索负责最新事实。
RAG 能解决胡编问题吗？
能减轻但不能消除。检索本身可能出错，模型也可能错误理解检索到的内容。所以给出的引用能帮助人核查，但要把它当成线索，而不是正确性的保证。
资料不多，还需要搭 RAG 吗？
不一定。如果全部资料能塞进模型的上下文窗口，直接贴进去往往更简单，配合缓存效果也不错。只有当资料太多塞不下、或者更新频繁时，检索管道才真正体现价值。
微调需要多少数据？
关键是质量而不是数量，通常几百到上千条高质量、多样化的样例就有明显效果；用参数高效的微调方式，跑一轮往往就够，轮数多了反而过拟合。
继续看：相关问题与资料
全部问题解答 →内容说明：本页针对具体使用问题作答，方法步骤与数值由本站自行整理与复算，事实性内容以对应官方规范与文档为准。内容最后核对日期：2026-10-09。若发现错误，欢迎通过页脚反馈入口告知。