简介：本文探讨了基于开源大模型快速构建本地知识库应用的方法，强调了外挂知识库在优化大模型表现中的作用，介绍了构建流程和工具，并提及毕昇平台与fastchat技术的结合应用，为企业和个人提供了智能化应用搭建的参考。
随着人工智能技术的不断进步，开源大模型在知识库应用构建中扮演着越来越重要的角色。自ChatGPT面世以来，大语言模型技术凭借其记忆、推理、逻辑理解、内容及代码生成等能力，在人工智能应用场景中崭露头角。然而，大模型在应用过程中也面临专业知识缺乏、信息幻觉、数据时效延迟等问题。针对这些问题，外挂知识库成为了一种低成本的优化方式，它通过利用本地专业知识，将高质量的数据信息加工为知识库，再由大模型完成检索召回与总结生成，从而辅助各行各业实现专业知识精准问答。
知识库（Knowledge base）是通过相关领域知识的采集、整理及提取，用于知识管理的一种数据库。在信息时代，文档管理逐步电子化，存储到计算机系统中，很大程度上便捷了使用。但早期的电子文档都是孤立存储的，没有建立文档知识的关系，缺乏相关知识的联动。云计算和大数据推动了一系列人工智能技术的落地和发展，使人们从信息时代迈入了智能时代。然而，大数据本身存在的非结构化、非标准化、缺少语义关联、缺乏领域知识、质量不高等问题，使得充分挖掘和利用大数据的价值变得困难。因此，除了依赖领域相关的标准、规范、指南以外，更重要的是专业领域知识的支撑。
在构建本地知识库应用时，首先需要整理出需要模型分析的私有数据，如文本数据（doc、csv、ppt等）、音视频数据，甚至一些网址链接。然后，通过一个嵌入模型将这些信息转换成模型能够理解的向量信息，即信息的向量化。最后，将向量化的信息存储到专属的向量数据库中，构建本地知识库。此时，当用户提问时，引入的通用大模型将会结合本地知识库中的信息有针对性地回答，甚至也可以专门分析本地知识库中的信息来输出。
在构建过程中，有多种工具可供选择。例如，AnythingLLM是一款构建本地知识库的工具，它能够直接读取文档并处理大量信息资源，包括文档上传、自动抓取在线文档，然后进行文本的自动分割、向量化处理，以及实现本地检索增强生成（RAG）等功能。此外，MaxKB、RAGFlow、FastGPT、Dify、Open WebUI等工具也颇受欢迎。
除了工具选择，平台的选择同样重要。毕昇（Bisheng）是一款领先的开源大模型应用开发平台，于2023年8月底正式开源。该平台基于Apache 2.0 License协议发布，旨在赋能和加速大模型应用开发落地。毕昇平台提供了丰富的开发组件和可视化流程编排能力，使得即使是对大模型技术不太熟悉的业务人员，也能通过简单直观的表单填写方式快速搭建以大模型为核心的智能应用。结合Docker-compose技术，毕昇平台能够高效地部署本地知识库与大模型，提供灵活可扩展的开发环境。
在具体应用中，以某企业内部知识库构建为例，通过整理企业内部的专业文档和数据，利用AnythingLLM等工具进行向量化处理和存储，然后结合毕昇平台和通用大模型，实现了对企业内部知识的快速检索和精准问答。这不仅提高了企业内部知识的利用效率，还降低了人工客服的成本和压力。
此外，fastchat技术也可以与毕昇平台无缝集成，为本地知识库应用增添更多功能。fastchat是一种高效的聊天机器人技术，通过接入fastchat的API接口或指定相关参数，可以在毕昇平台上开发新的智能应用，实现更加智能化的问答和交互。
综上所述，基于开源大模型快速构建本地知识库应用是一种高效、低成本的方式。通过外挂知识库优化大模型表现，选择合适的工具和平台，结合具体的应用场景进行定制开发，可以为企业和个人提供智能化应用搭建的参考和借鉴。随着人工智能技术的不断发展，未来本地知识库应用将在更多领域发挥重要作用。