大模型为什么会一本正经地胡说八道？聊聊RAG

生产队队长

🧠 问大模型一个冷门问题，它答得头头是道，细节却是编的？这锅得让"闭卷考试"来背，解药叫 RAG 检索增强生成。
🔍 幻觉从哪来
大模型的知识全压在参数里，训练截止后就不再更新。❌ 你问它训练之后的事，或者自家内部资料，它没有依据，只能靠"概率续写"硬编一个像样的答案，这就是所谓的"幻觉"。
💡 RAG 的解法：先查资料再回答

• ✔ 把文档切块，向量化后存进知识库
• ✔ 提问时先检索出最相关的几段
• ✔ 把检索结果塞进提示词，让模型"开卷作答"
  

✅ 为什么企业都爱它
知识库更新不用重训模型，文档换了立刻生效；答案能附引用来源，可信度大增；私有数据圈在自家系统里，也不怕泄密。代价是多一道检索链路，检索不准答案照样跑偏，所以切片粒度和召回质量的调优才是 RAG 项目的真正功夫所在。

---

一句话总结：RAG 给大模型配了个随身资料库，把闭卷考试变成开卷考试。

💬 互动一下：你搭过 RAG 系统吗？检索精度和切片粒度是怎么权衡的？