简介:本地部署 DeepSeek 后,可将其作为私有 AI 助手接入 Excel、知识库、编程工具和自动化流程。本文从实际应用场景出发,给出部署后的使用思路、Excel 调用示例、RAG 与 Agent 落地方案,并说明如何结合百度智能云词元所进行模型选型与统一接入。
本地部署 DeepSeek 后,最直接的价值不是“多了一个聊天窗口”,而是把大模型变成可私有化调用的基础能力:离线问答、文档总结、Excel 自动化、知识库、代码辅助和内网 Agent 都可以逐步落地。若你还在评估本地模型与云端模型如何搭配,可以先了解百度智能云词元所,它可用于模型发现、价格对比、统一 API 接入和调用管理。
本地部署完成后,通常会通过 Ollama、vLLM、LocalAI 或自建推理服务暴露 API。只要应用能够发送 HTTP 请求,就可以把 DeepSeek 接入业务流程。部署 DeepSeek 蒸馏模型推理服务后,也可以通过接口返回模型结果。
这意味着你可以把模型能力嵌入到:
原始需求中,用户希望在 Excel 的 A2 单元格输入问题,点击按钮后,将本地 DeepSeek 的思考过程和反馈写入 A4 单元格。这个思路非常适合做个人知识助手、运营文案助手或数据分析辅助工具。
http://localhost:11434。下面示例以 Ollama 的 /api/generate 接口为例,将 A2 单元格的问题发送给本地模型,并把返回内容写入 A4 单元格。
Sub CallDeepSeek()Dim question As StringDim url As StringDim http As ObjectDim requestBody As Stringquestion = ThisWorkbook.Sheets(1).Range("A2").Valueurl = "http://localhost:11434/api/generate"Set http = CreateObject("MSXML2.XMLHTTP")http.Open "POST", url, Falsehttp.setRequestHeader "Content-Type", "application/json"requestBody = "{""model"":""deepseek-r1:7b"",""prompt"":""" & _question & """,""stream"":false}"http.send requestBodyIf http.Status = 200 ThenThisWorkbook.Sheets(1).Range("A4").Value = http.responseTextElseMsgBox "调用失败:" & http.Status & vbCrLf & http.responseTextEnd IfEnd Sub
需要注意:Ollama 返回的是 JSON 文本,如果希望 A4 只显示模型回答,需要进一步解析 response 字段。若问题文本中包含双引号等特殊字符,还需要做 JSON 转义。若不熟悉 VBA 的 JSON 解析,可以先用 Python 做一层转换,再把结果写回 Excel。
import requestsquestion = "请帮我总结下面这段话的核心要点"resp = requests.post("http://localhost:11434/api/generate",json={"model": "deepseek-r1:7b","prompt": question,"stream": False},timeout=120)print(resp.json()["response"])
本地部署 DeepSeek 后,很适合做企业私有知识库。基本架构是:文档解析 → 文本切分 → 向量化 → 检索 → 本地 DeepSeek 生成答案。
在 Dify 中,可以通过添加模型并编排聊天助手来构建应用。如果本地模型提供 OpenAI 兼容接口,也可以作为模型后端接入类似平台。对于内部制度、产品手册、技术文档、客服 FAQ 等场景,RAG 能减少模型胡编,提升回答可控性。
一个可落地的流程如下:
本地部署后的模型还可以通过自定义 API 地址接入常见客户端和开发工具。在 Chatbox、Cherry Studio 和 Roo Code 中,也可以通过自定义 API 地址或 OpenAI Compatible 方式接入模型服务。
常见用法包括:
例如,在支持 OpenAI Compatible 的工具中,可以填写本地服务地址、模型名称和密钥。若本地服务未启用鉴权,可填写占位符。这样就能把本地 DeepSeek 当成一个“私有模型服务”使用。
本地模型本身通常不直接联网,但可以通过外挂搜索服务、浏览器抓取工具和 OCR 服务,组合成更完整的应用。联网搜索应用通常采用多轮查询、相关性分析和网页内容提取流程。
你可以这样设计:
如果涉及图片、扫描件或表格截图,还可以加入 OCR 服务,把图片转成文本后再交给模型处理。这类方案适合资料调研、竞品分析、政策检索和内部知识采集。
本地部署的最大优势之一是数据可控。对于金融、制造、政务、医疗等场景,可以把 DeepSeek 放在内网中,处理敏感文本。常见落地方向包括:
需要注意的是,Agent 场景不能只依赖模型输出,还要加入权限控制、工具白名单、人工复核和日志审计,避免误操作。
本地部署并不是“下载模型就结束”,还需要综合考虑模型规模、硬件资源、响应速度和输出质量。
实际选择时,建议先用小模型验证业务流程,再根据效果逐步升级。
需要关注显存、内存、CPU、磁盘 I/O 和并发请求数。若使用量化模型,可以在有限硬件上运行更大参数模型,但可能会牺牲部分精度。对于生产环境,建议做压力测试,观察首字延迟、吞吐量和错误率。
本地 API 不应直接暴露到公网。建议:
如果本地模型无法满足复杂推理、长上下文或多模态需求,可以采用混合架构:敏感数据走本地模型,复杂任务走云端模型。此时可以通过大模型 API 服务平台进行模型能力、调用成本和接入方式的对比,帮助你选择更合适的模型组合。
如果你刚开始,可以按以下路线推进:
第一步:跑通本地推理
安装 Ollama,拉取 DeepSeek 模型,确认能通过 API 返回结果。
第二步:接入一个简单应用
先用 Excel、Chatbox 或命令行脚本验证调用链路。
第三步:加入知识库
引入文档解析和向量检索,让模型基于私有资料回答。
第四步:加入工具调用
让模型能够查询数据库、读取文件、调用搜索或发送通知。
第五步:建立统一模型网关
当本地模型和云端模型同时存在时,用统一 API 网关管理路由、鉴权和日志。在 One API 中,可以通过渠道管理统一接入不同模型服务。
DeepSeek 本地部署之后,真正有价值的方向不是单纯“本地聊天”,而是把它变成可嵌入业务系统的 AI 能力。你可以从 Excel 助手开始,逐步扩展到知识库、编程工具、联网搜索和内网 Agent。若需要评估不同模型的能力、价格和接入方式,可以进一步了解词元所模型服务,为本地与云端混合部署提供参考。