RAG通用范式工程实践全解析

rag-">RAG通用范式的工程实践

引言

在信息爆炸的时代，如何高效地处理和利用知识成为了AI领域的重要课题。RAG（Retrieval-Augmented Generation，检索增强生成）作为一种结合了信息检索技术与语言生成模型的人工智能技术，正逐渐成为解决这一问题的关键方案。本文将深入探讨RAG通用范式的工程实践，从技术架构、业务链路到实施阶段，全面解析RAG如何在实际应用中发挥作用。

技术架构

RAG的技术架构主要可分为一底座三中心，即数据管理底座、模型中心、多引擎中心、召回策略中心。每个子系统按照能力划分子模块，并在上层配置调度策略以统一调度。

• 数据管理底座：包含数据生产和数据加工的能力。数据生产涉及数据版本、血缘管理、引擎同步等；数据加工则主要包括数据切片、索引优化等。
• 模型中心：主要包含生成式大模型和理解式小模型。生成式大模型提供引用式生成、query改写、Text2Cypher、NL2SQL等能力；理解式小模型则提供文档切块、embedding、rerank等能力。
• 多引擎中心：包含向量、分词以及图谱引擎，提供多种检索方式以提高知识的命中率。
• 召回策略中心：在整个RAG建设中起到调度的作用，执行query改写、多路召回、检索后置处理以及大模型引用式生成答案等任务。

业务链路

RAG整体业务链路主要分为五大步骤：知识生产与加工、query改写、数据召回、后置处理以及大模型生产。

1. 知识生产与加工：收集并转换知识文档为文本数据，进行预处理和索引，以便后续检索使用。
2. query改写：理解用户真实意图，并改写或泛化成适合知识库检索的query。
3. 数据召回：通过高效的检索方法，召回与提问最相关的知识。这一步骤中，向量召回的比重最大，也最为关键。
4. 后置处理：对召回的数据进行去重、合并、重排等操作，以提高数据的质量和准确性。
5. 大模型生产：将处理后的知识数据作为提示（Prompt）输入给大型语言模型（LLMs），生成符合用户需求的回答。

实施阶段

RAG的实施阶段主要分为三个阶段，每个阶段都有其特定的目标和任务。

1. 第一阶段：保证系统可用

   • 先按照固定字符切分，预留冗余字符以保证语义不被截断。
   • 结合上下文，使用大模型的理解能力突出用户意图。
   • 实现向量召回，并设置符合业务预期的阈值筛选数据。

2. 第二阶段：提升RAG的检索效果

   • 引入基于语义切分知识的模型，根据语义切分将上下文联系比较紧密的句子拆分成一条知识。
   • 分析索引噪音，指定降噪措施。
   • 探索RAG-Fusion模式和多任务query抽取，以提高数据检索的准确性和全面性。
   • 基于向量检索的基础上，探索分词、图谱的能力，甚至有些业务还需要NL2SQL的能力。

3. 第三阶段：提升工程可扩展性

   • 各个业务功能做模块化设计，通过召回策略配置中心配置出业务所需要的RAG流程。
   • 不断优化和升级系统架构和技术栈，以适应不断变化的业务需求和技术发展。

关键技术应用

在RAG的工程实践中，一些关键技术起到了至关重要的作用。

• 文本嵌入：使用预训练的文本嵌入模型将查询和文档转换成向量表示，以便在向量空间中进行相似度计算。
• 向量搜索：利用高效的向量搜索技术（如FAISS、Milvus等向量数据库）在向量空间中检索与查询向量最相似的文档或段落。
• 双塔模型：检索模块常采用双塔模型进行高效的向量化检索。双塔模型由两个独立的编码器组成，一个用于编码查询，另一个用于编码文档。
• Prompt工程：Prompt的设计是影响模型输出准确率的关键因素之一。在RAG场景中，Prompt一般包括任务描述、背景知识（检索得到）、任务指令（一般是用户提问）等。

产品关联：千帆大模型开发与服务平台

在RAG的工程实践中，千帆大模型开发与服务平台提供了强大的支持和保障。该平台提供了丰富的模型库和算法库，支持用户快速搭建和优化RAG系统。同时，平台还提供了高效的数据处理和存储能力，以及便捷的API接口和可视化工具，帮助用户更好地管理和监控RAG系统的运行状态。

通过千帆大模型开发与服务平台，用户可以更加高效地实现RAG系统的搭建和优化，提升系统的性能和准确性。同时，该平台还可以为用户提供定制化的解决方案和技术支持，帮助用户更好地应对各种复杂场景和业务需求。

结论

RAG作为一种结合了信息检索与语言生成模型的人工智能技术，在处理知识密集型任务方面展现出了巨大的潜力。通过深入探讨RAG通用范式的工程实践，我们可以更好地理解其技术架构、业务链路和实施阶段等方面的内容。同时，借助千帆大模型开发与服务平台等先进工具的支持和保障，我们可以更加高效地实现RAG系统的搭建和优化，为AI领域的发展注入新的活力和动力。

未来，随着技术的不断进步和应用场景的不断拓展，RAG将在更多领域发挥重要作用。我们相信，在不久的将来，RAG将成为AI领域的重要基石之一，为人类社会的发展贡献更多的智慧和力量。