简介：本文围绕无向量RAG与向量RAG的架构差异展开，分析PageIndex类层级树方案为何在复杂结构化文档中精度更高，却难以扩展到大规模多文档场景。文章进一步引入Proxy-Pointer代理指针RAG的工程化思路，讨论如何在不引入高延迟和高成本的前提下，将结构化推理能力融入向量索引流程，并为技术选型提供对比维度与决策建议。
检索增强生成（RAG）已经成为企业知识库、文档问答和智能分析系统中的常见架构。传统向量RAG的核心思路相对直接：将文档切分为若干块，通过嵌入模型生成向量，再基于数学相似性检索与查询最接近的内容，最后交由语言模型合成答案。这种方式构建成本低、检索速度快，尤其适合大量独立、主题分散的文档集合。
但在处理财务报表、法律合同、技术规范、监管文件等复杂结构化或半结构化文档时，向量检索的不足逐渐显现。由于这些文档存在大量跨章节引用、层级表格、条款嵌套和上下文依赖，简单分块和语义相似度匹配容易丢失结构关系，导致检索结果看似相关，实际却缺少关键约束条件或上下文信息。
为此，无向量RAG中的层级树方案被提出。该方案不依赖向量数据库，而是先构建一个类似“智能目录”的层级树，再由语言模型像人类专家一样沿树结构逐步定位信息。典型代表如PageIndex类方法，它在金融基准测试中达到了较高准确率。然而，这类方法也暴露出明显短板：构建层级树索引成本高、速度慢，检索过程需要多次调用语言模型，难以扩展到大规模多文档知识库。
因此，一个关键问题浮出水面：能否将无向量RAG的结构感知能力与向量RAG的低成本、低延迟优势结合起来？这正是Proxy-Pointer RAG希望解决的工程难题。
无向量层级树RAG不依赖嵌入模型和向量相似度计算，而是通过语言模型对文档结构进行理解，生成层级化索引。检索时，系统从根节点出发，逐步判断查询应该落入哪个子节点，直到找到最相关的内容节点，再将这些节点内容作为上下文进行答案合成。
这种方式的优势在于结构感知强。语言模型在遍历树的过程中，可以理解章节标题、层级关系、条款引用和表格语义，而不是仅凭词汇相似度进行匹配。例如，对于“南亚地区2024年就业率变化的主要影响因素”这类查询，层级树方法可以准确进入“就业”章节而非“贸易”或“财政政策”章节。
但代价同样明显。构建层级树本身需要大量语言模型调用，每一层节点可能都要生成摘要或判断标准。文档越复杂，索引构建时间和成本越高。此外，检索阶段也要经过多次语言模型推理，延迟明显高于向量检索。
向量RAG依赖嵌入模型将文档块和查询映射到高维空间，再通过向量数据库进行相似度检索。其优点是构建索引速度快、成本低，检索延迟低，且天然适合水平扩展。对于大量独立文档，如客户支持知识库、FAQ集合、产品文档中心等，向量RAG仍是高效选择。
但向量RAG在复杂结构化文档中存在结构感知不足的问题。分块策略通常是固定长度或按段落切分，容易破坏表格结构、跨段引用和条款嵌套关系。即使使用较大的块或重叠窗口，也难以完全还原文档的层级逻辑。结果可能是检索到若干相似片段，但这些片段之间缺少必要的上下文约束。
尽管架构不同，两类方案在目标上高度一致：
层级树RAG的索引构建依赖语言模型对文档进行深度理解。它需要识别文档的章节层级、生成节点摘要、建立父子关系，并为每个节点定义可导航的判断依据。这个过程相当于让语言模型对整篇文档进行结构化重构，调用量大、耗时长。
向量RAG的索引构建则轻量得多。通常只需要调用嵌入模型对每个文本块生成向量，然后写入向量数据库。嵌入模型的计算成本远低于语言模型，因此可以快速处理大规模文档集合。
层级树RAG的检索是多步推理过程。从根节点开始，每一步都要判断下一步进入哪个子节点，直到到达叶子节点。这种逐步导航虽然准确，但每一步都涉及语言模型调用，延迟和成本随树深度线性增加。
向量RAG的检索是单步相似度计算。查询向量生成后，直接在向量数据库中进行最近邻搜索，速度和效率优势明显。
这是二者精度差异的核心来源。层级树天然保留了文档的章节、条款、层级关系，语言模型在遍历过程中能够利用这些结构信息做出更准确的判断。例如，当遇到“在合并报表中，商誉减值如何影响少数股东权益”这类查询时，层级树可以先定位到“合并报表”章节，再进入“商誉”子节点，最后找到涉及少数股东权益的条款。
向量RAG则可能检索到同时包含“商誉减值”和“少数股东权益”的若干片段，但这些片段可能来自不同章节，甚至讨论的是不同会计年度或不同业务场景。语言模型在合成答案时容易产生混淆或遗漏关键限定条件。
层级树RAG在多文档场景下面临严重瓶颈。假设有1000份复杂报告，每份都需要构建独立的层级树，索引构建成本会线性甚至超线性增长。同时，跨文档检索时还需要先判断查询应该路由到哪些文档，再分别进行树遍历，整个流程的延迟和成本都难以接受。
向量RAG在多文档场景下则表现出色。所有文档块的向量可以统一存储在向量数据库中，查询时通过相似度检索即可跨文档找到相关片段，扩展性天然较好。
层级树RAG的检索路径是显式的。用户可以清楚看到系统从哪个章节进入哪个子节点，最终定位到哪段内容。这种可解释性对于审计、合规和金融分析等场景尤为重要。
向量RAG的检索结果也可以展示相似度分数和来源块，但无法解释为什么会从不同章节中挑选出这些片段，也无法展示它们之间的结构关系。
| 维度 | 无向量层级树RAG | 向量RAG | Proxy-Pointer RAG |
|---|---|---|---|
| 索引构建成本 | 高，依赖语言模型深度理解 | 低，主要依赖嵌入模型 | 中，结构信息转换为轻量代理指针 |
| 索引构建速度 | 慢 | 快 | 较快 |
| 检索延迟 | 高，多步语言模型推理 | 低，单步向量检索 | 低，向量检索后局部导航 |
| 结构感知能力 | 强 | 弱 | 较强 |
| 多文档扩展性 | 差 | 好 | 较好 |
| 可解释性 | 强，显式路径 | 弱，仅相似度分数 | 中，可回溯定位路径 |
| 适用场景 | 复杂单文档或少量文档 | 大规模独立文档集合 | 复杂文档集合与结构敏感场景 |
Proxy-Pointer RAG尝试在两者之间建立桥梁。其核心思想是：在向量索引中嵌入轻量级的结构代理指针，使得检索流程首先通过向量相似度快速定位候选内容，再利用预置的结构指针进行局部导航和上下文补全。
这种方案适合既包含大量文档，又需要处理复杂结构化查询的场景。例如，企业同时维护数百份财务报告、合规文件和内部制度文档，用户查询既可能涉及跨文档比较，也可能需要深入单份文档的特定条款。
Proxy-Pointer RAG并不试图为每篇文档构建完整的层级树，而是提炼出关键的结构锚点。例如，可以识别文档的章节标题、表格标题、条款编号和引用关系，并将这些结构信息转换为向量块中的附加元数据或特殊标记。
这些轻量化的结构代理相当于在向量空间中放置了“指针”，指向具有结构意义的节点。当查询命中某个指针附近的内容时，系统可以沿着指针快速回溯到父节点或关联节点，从而恢复部分上下文关系。
第一阶段仍然使用向量检索，快速筛选出候选内容块。这一步保持了向量RAG的低延迟优势。
第二阶段仅对少量候选块进行结构导航。由于候选块数量有限，语言模型调用的次数和成本都大幅降低。系统可以基于预设的代理指针，判断是否需要补充父章节的摘要、相邻条款的内容或相关表格的说明。
Proxy-Pointer RAG的关键在于将语言模型的使用从“全文档构树”缩减为“小范围补全”。具体策略包括：
技术选型不能脱离具体业务约束。以下是一些条件化的判断建议：
从向量RAG迁移到Proxy-Pointer RAG，或从无向量层级树方案迁移到混合架构，需要关注以下问题：
现有向量索引可以继续使用，但需要补充结构代理指针的生成流程。这意味着需要重新处理已有文档，提取结构信息并更新向量块的元数据。对于大规模存量数据，这一过程可能耗时较长，需要制定分批迁移计划。
检索流程从单步变为两阶段后，应用层需要适配新的调用逻辑。例如，需要增加局部导航的触发条件判断、超时处理和降级策略。当结构导航失败或超时时，应能自动回退到纯向量检索结果，保障系统可用性。
混合方案虽然比纯层级树方案便宜，但仍比纯向量RAG多出一部分语言模型调用成本。建议对结构代理的生成成本、局部导航的调用频率、缓存命中率等指标进行持续监控，以便在精度和成本之间动态调整。
结构代理指针的质量直接影响检索精度。如果文档更新频繁，需要确保结构信息的同步更新机制可靠。否则可能出现指针指向过期内容或结构关系断裂的情况，反而降低检索质量。
无向量层级树RAG与向量RAG的差异，本质上是“深度理解”与“快速匹配”之间的权衡。前者通过语言模型对文档结构进行显式建模，在复杂结构化文档中取得了显著精度优势，但受限于索引构建和检索的高成本，难以扩展到多文档场景。后者以低成本和低延迟见长，但在结构敏感查询中容易丢失关键上下文。
Proxy-Pointer RAG提出了一种有价值的工程化方向：将结构信息以轻量代理的形式嵌入向量索引，在保持向量检索低延迟优势的同时，通过局部导航恢复必要的结构上下文。这种混合思路并不追求在所有场景下替代现有方案，而是针对“文档规模大、结构复杂、查询深度高”这一交集场景提供新的选择。
对于技术决策者而言，关键不是寻找一个普适最优方案，而是明确自身业务在文档规模、结构复杂度、查询模式、延迟要求和可解释性需求上的具体约束，再据此评估各类方案的适配程度。在多数实际场景中，向量RAG依然是高性价比的默认选择；无向量层级树方案在特定复杂文档场景下具有不可替代的价值；而Proxy-Pointer类混合架构则代表了在精度与规模化之间寻求平衡的可行探索。