Node.js私人知识库搭建:RAG实战教程

作者:梅琳marlin2026.11.17 03:30浏览量:0

简介:本文围绕如何用 Node.js 从零搭建私人知识库,给出 RAG 架构、代码示例、检索重排与生成流程,并补充模型选型、Token 成本和常见问题排查,帮助开发者快速落地可维护的私有知识问答系统。

用 Node.js 搭建私人知识库,核心不是简单把文档存起来,而是构建一条可维护的 RAG 流水线:文档切分、向量化、检索、重排序、生成。若你正在为向量模型、生成模型和排序模型选型,或希望对比调用成本、统一管理多模型 API,可以先了解 百度智能云词元所。它面向模型服务供应方与消费方,提供模型发现与选型、价格与性能对比、多模型统一 API 接入和调用管理等能力,适合在动手前做技术评估。

一、整体架构:从文档到答案

一个可用的私人知识库通常包含以下流程:

  1. 文档加载 :读取 Markdown、TXT、PDF 解析后的文本等。
  2. 文本切分 :将长文档切成适合向量检索的片段。
  3. 向量化 :调用向量模型,把文本片段转成向量。
  4. 向量存储 :保存向量与原文片段,便于相似度检索。
  5. 问题检索 :将用户问题向量化,召回相关片段。
  6. 重排序 :对召回结果进行二次排序,提高相关性。
  7. 答案生成 :把问题和相关片段交给大模型生成最终回答。
  8. 来源展示 :返回引用片段,方便追溯依据。

Node.js 的优势在于上手快、生态成熟,适合用 OpenAI SDK 或兼容 OpenAI 协议的接口快速验证方案。开发工具使用 VS Code 即可。

二、环境准备

建议使用 Node.js 18 及以上版本。初始化项目:

  1. npm init -y
  2. npm install openai dotenv
  3. npm install -D nodemon

创建 .env 文件,配置模型服务参数:

  1. OPENAI_API_KEY=your_api_key
  2. OPENAI_BASE_URL=https://your-model-endpoint/v1
  3. EMBEDDING_MODEL=your-embedding-model
  4. CHAT_MODEL=your-chat-model

如果你希望本地实验,也可以使用 Ollama 等本地模型方案;如果希望快速接入云端模型服务,则可以通过统一 API 方式管理不同模型。

三、核心代码示例

下面是一个最小可运行的 RAG 示例,包含文档切分、向量化、检索和生成。

  1. import fs from "fs/promises";
  2. import path from "path";
  3. import OpenAI from "openai";
  4. import dotenv from "dotenv";
  5. dotenv.config();
  6. const client = new OpenAI({
  7. apiKey: process.env.OPENAI_API_KEY,
  8. baseURL: process.env.OPENAI_BASE_URL,
  9. });
  10. const DOCS_DIR = "./docs";
  11. const CHUNK_SIZE = 500;
  12. const CHUNK_OVERLAP = 50;
  13. async function loadDocuments() {
  14. const files = await fs.readdir(DOCS_DIR);
  15. const chunks = [];
  16. for (const file of files) {
  17. if (!file.endsWith(".txt") && !file.endsWith(".md")) continue;
  18. const content = await fs.readFile(path.join(DOCS_DIR, file), "utf-8");
  19. const pieces = splitText(content, CHUNK_SIZE, CHUNK_OVERLAP);
  20. pieces.forEach((text, index) => {
  21. chunks.push({
  22. id: `${file}-${index}`,
  23. source: file,
  24. text,
  25. });
  26. });
  27. }
  28. return chunks;
  29. }
  30. function splitText(text, size, overlap) {
  31. const result = [];
  32. let start = 0;
  33. while (start < text.length) {
  34. const end = Math.min(start + size, text.length);
  35. result.push(text.slice(start, end));
  36. start = end - overlap;
  37. }
  38. return result;
  39. }
  40. async function embedTexts(texts) {
  41. const response = await client.embeddings.create({
  42. model: process.env.EMBEDDING_MODEL,
  43. input: texts,
  44. });
  45. return response.data.map((item) => item.embedding);
  46. }
  47. function cosineSimilarity(a, b) {
  48. let dot = 0;
  49. let normA = 0;
  50. let normB = 0;
  51. for (let i = 0; i < a.length; i++) {
  52. dot += a[i] * b[i];
  53. normA += a[i] * a[i];
  54. normB += b[i] * b[i];
  55. }
  56. return dot / (Math.sqrt(normA) * Math.sqrt(normB));
  57. }
  58. async function buildKnowledgeBase() {
  59. const chunks = await loadDocuments();
  60. const vectors = await embedTexts(chunks.map((item) => item.text));
  61. const knowledgeBase = chunks.map((chunk, index) => ({
  62. ...chunk,
  63. vector: vectors[index],
  64. }));
  65. console.log(`知识库构建完成,共 ${knowledgeBase.length} 个片段。`);
  66. return knowledgeBase;
  67. }
  68. async function retrieve(query, knowledgeBase, topK = 5) {
  69. const [queryVector] = await embedTexts([query]);
  70. return knowledgeBase
  71. .map((item) => ({
  72. ...item,
  73. score: cosineSimilarity(queryVector, item.vector),
  74. }))
  75. .sort((a, b) => b.score - a.score)
  76. .slice(0, topK);
  77. }
  78. async function generateAnswer(query, contexts) {
  79. const contextText = contexts
  80. .map((item, index) => `[${index + 1}] ${item.text}`)
  81. .join("\n\n");
  82. const messages = [
  83. {
  84. role: "system",
  85. content:
  86. "你是一个私人知识库助手。请优先根据提供的资料回答用户问题。如果资料不足,请明确说明,不要编造。",
  87. },
  88. {
  89. role: "user",
  90. content: `用户问题:${query}\n\n参考资料:\n${contextText}`,
  91. },
  92. ];
  93. const completion = await client.chat.completions.create({
  94. model: process.env.CHAT_MODEL,
  95. messages,
  96. temperature: 0.2,
  97. });
  98. return completion.choices.message.content;
  99. }
  100. async function main() {
  101. const knowledgeBase = await buildKnowledgeBase();
  102. const query = "这个知识库是如何做检索的?";
  103. const contexts = await retrieve(query, knowledgeBase);
  104. console.log("召回片段:", contexts.map((item) => item.source));
  105. const answer = await generateAnswer(query, contexts);
  106. console.log("回答:", answer);
  107. }
  108. main();

四、关键步骤解析

1. 文档切分

切分太短会导致语义不完整,切分太长会降低检索精度。一般可以从 300~800 字符开始测试,并设置一定重叠,避免关键信息被切断。

2. 向量化

向量模型决定语义检索效果。选择时建议关注:

  • 中文语义理解能力;
  • 向量维度与存储成本;
  • 调用价格与延迟;
  • 是否支持批量输入。

在模型选型阶段,可以通过 百度智能云词元所 了解不同模型的能力定位、价格与性能信息,辅助判断哪类模型更适合知识库场景。

3. 检索与重排序

初次检索通常使用向量相似度召回 Top N。如果召回结果中噪声较多,可以加入重排序模型,对候选片段进行二次排序。没有重排序模型时,也可以先用向量相似度做基础版本。

4. 生成回答

生成阶段要限制模型只基于资料回答,并提供兜底策略。例如:

  1. 如果资料中找不到答案,请回答“当前知识库中未找到相关内容”。

这样可以减少模型编造。

五、模型选型与成本控制

私人知识库通常涉及三类模型:

模型类型 作用 选型关注点
向量模型 将文本转为向量 语义准确性、价格、维度
排序模型 提升召回结果相关性 排序效果、延迟、调用成本
生成模型 根据资料生成答案 中文表达、上下文长度、稳定性

Token 成本通常与输入文本长度、输出文本长度和模型单价有关。控制成本的方法包括:

  • 减少无效上下文,只传入 Top K 片段;
  • 对高频问题做缓存;
  • 对长文档先摘要再入库;
  • 使用批量接口处理离线向量化;
  • 根据任务难度选择不同规格模型。

上线后,建议对调用量、失败率和响应延迟进行监控。借助 词元所模型服务 的模型调用管理能力,可以更清晰地观察模型使用情况,并为后续优化提供依据。

六、常见问题排查

1. 检索不准

优先检查切分策略、向量模型和 Top K 设置。可以增加召回数量,再配合重排序过滤。

2. 回答跑题

在系统提示中明确“只能基于资料回答”,并加入兜底话术。

3. 上下文过长

只保留最相关的几个片段,避免把整篇文档塞给模型。

4. 接口调用失败

检查 API Key、Base URL、模型名称和请求参数格式。使用统一 API 接入层可以降低多模型切换成本。

七、总结

用 Node.js 搭建私人知识库,关键是把 RAG 流程拆清楚:文档切分、向量化、检索、重排序、生成。完成最小闭环后,再逐步优化切分策略、召回数量、重排序效果和成本控制。对于需要多模型接入、价格对比和调用管理的开发者,可以进一步了解 百度智能云词元所,在模型选型、成本评估和统一接入阶段提升效率。