什么是 RAG：让投研回答有依据

同一个错误答案，可能有四种原因。

• 问题没说清：只问“营收是多少”，没有写公司、报告期和单季还是累计。
• 资料没准备好：财报没有进入知识库，或者表格、脚注、单位在提取时丢了。
• 检索没找到：资料存在，但召回了上一年报告，或真正相关的片段排在后面。
• 生成读错了：证据已经给出，模型却把“归母净利润”当成“营收”。

提示词工程就是把任务、范围、格式和限制说明白；RAG 是从外部资料中找内容；微调是用训练数据调整模型的行为或能力。多数入门投研问答，先用现成模型加 RAG 就够了。微调需要合适的数据和评估，不能替代查找最新财报。

诊断顺序很重要：先把问题说清，再确认资料是否存在，然后检查检索，最后检查生成。不要一遇到错误就把原因归结为模型能力不够。

RAG 是 Retrieval-Augmented Generation 的缩写，中文是“检索增强生成”。可以把它拆成三步：

1. Retrieval，检索：从你的资料中找到和问题有关的片段；
2. Augmented，增强：把这些片段、来源和回答规则放进模型上下文；
3. Generation，生成：模型根据问题和证据组织答案。

它适合利用最新资料、专业资料和私人知识，并让回答附上引用。但资料过期、召回遗漏、证据冲突或模型误读，都会导致错误。因此“找到资料就一定准确”不是承诺，而是要努力达到的设计目标。

把一篇文章完整放进上下文，也能做基于文档的问答；只有经过“从资料中选出相关内容”的检索步骤，才体现完整的 RAG 流程。长上下文和 RAG 也可以一起用。

资料可以来自 PDF、网页、数据库、年报和研报。使用时要确认访问、下载和再使用权限。付费数据下载到本地，不代表可以随意外传。

先给每份文件登记标题、公司、发布日期、报告期、来源和版本。PDF 提取后逐项检查表格、单位、脚注、跨页句子和图片。财务数字尤其要保留“万元还是亿元”“本期还是上期”“单季还是累计”等上下文。

为什么要切片

把整份长报告压成一个向量，会把许多细节混在一起；切成较小的 chunk（知识片段）能更容易定位。但切得过小，又可能丢掉表头、条件和前文。

300—500、600—800、800—1000 或 512 等长度都可以作为候选，但一定要说明单位是 token、字符还是词。中文字符数和 token 数不是一回事。按标题和段落切分，通常比机械地每隔固定长度切开更容易保留语义；跨片段重叠可以减少句子被截断。

每个片段要同时保存原始文字和元数据，再用嵌入模型生成固定维度的向量。向量只是检索工具，不是证据本身。文档更新后，要同步更新索引和版本。

用户的问题也要用兼容的嵌入模型转成向量，再和知识片段比较相似度。问题向量和文档向量必须来自同一个模型、处在同一个维度空间；否则相似度没有可比性。

可以把它想成招聘：先从一千万份简历里筛出 100 份，再对 100 份仔细面试，最后留下 10 份。向量召回追求速度和覆盖，重排则对问题和候选文本做更细的判断。示例流程就是“一千万 → 100 → 10”，100 和 10 不是固定标准，要按覆盖率、延迟和上下文预算评估。

大规模检索可能使用索引或近似算法，不是任意一千万条数据都能一次精确比较后立刻返回。重排通常更耗资源，但可以批处理。小知识库可以先取少量 Top K，不一定一开始就加入重排。

公司代码、年份、专有名词和数字，适合结合关键词检索或元数据过滤，不能只依赖语义相似度。

把问题、检索片段、来源和回答规则一起交给模型。规则至少包括：证据不足时先说明；引用文件和页码；资料没有的信息不补猜；不同版本冲突时写出日期和口径。

例如问“某公司某期营收”，回答至少写清：报告期、数值、单位、单季还是累计，以及来自哪份文件哪一页。如果找到的是上一年数据或归母净利润，就不能拿来代替本期营收。只有摘要、没有完整表格时，也要把证据限制写出来。

上下文不是越多越好。无关片段会分散注意，重复片段会占用上下文预算。重排、去重、补齐上下页和保留表头，都是为了让模型看到最小但足够的证据。

一个可验收的回答，应该能让你沿着引用回到文件，而不是只看起来流畅。

一套 RAG 系统里，常见组件分工如下：

• Embedding（嵌入模型）：把文本编码成适合检索的向量；
• 向量索引或数据库：管理向量，并查找相似片段；
• 语言模型：根据问题和片段生成文字；
• 应用层：保存来源、页码、版本，组织权限和评测。

可以用 LangChain、DeepSeek、FAISS 等组件搭建本地文件问答，也可以继续包装成 Skill 或 Agent。具体版本、接口和部署方式要按实际环境确认。

“本地知识库”不等于所有数据都留在本机。如果嵌入或生成调用云端 API，文本可能发送给服务方。处理私人财报笔记、客户资料或账户数据时，要明确每一步运行在哪里。

数据准备、清洗、来源、更新和评测，常常比把几个库接起来更费时间。有人用“约 80%”提醒这件事，但它是经验性提醒，不是固定工程比例。