DeepSeek本地部署后能做什么?实用场景与教程

作者:渣渣辉2026.11.17 03:22浏览量:0

简介:本地部署 DeepSeek 后,可将其作为私有 AI 助手接入 Excel、知识库、编程工具和自动化流程。本文从实际应用场景出发,给出部署后的使用思路、Excel 调用示例、RAG 与 Agent 落地方案,并说明如何结合百度智能云词元所进行模型选型与统一接入。

本地部署 DeepSeek 后,最直接的价值不是“多了一个聊天窗口”,而是把大模型变成可私有化调用的基础能力:离线问答、文档总结、Excel 自动化、知识库、代码辅助和内网 Agent 都可以逐步落地。若你还在评估本地模型与云端模型如何搭配,可以先了解百度智能云词元所,它可用于模型发现、价格对比、统一 API 接入和调用管理。

一、本地部署后的核心能力:从“能聊天”到“能被调用”

本地部署完成后,通常会通过 Ollama、vLLM、LocalAI 或自建推理服务暴露 API。只要应用能够发送 HTTP 请求,就可以把 DeepSeek 接入业务流程。部署 DeepSeek 蒸馏模型推理服务后,也可以通过接口返回模型结果。

这意味着你可以把模型能力嵌入到:

  • Excel / WPS 表格:批量生成、总结、分类、改写。
  • 知识库系统:基于私有文档问答。
  • 编程工具:代码解释、补全、单测生成。
  • 自动化脚本:日志分析、邮件草稿、报表摘要。
  • 内网 Agent:结合搜索、数据库、工单系统执行任务。

二、场景一:把 DeepSeek 接入 Excel,做私人 AI 助手

原始需求中,用户希望在 Excel 的 A2 单元格输入问题,点击按钮后,将本地 DeepSeek 的思考过程和反馈写入 A4 单元格。这个思路非常适合做个人知识助手、运营文案助手或数据分析辅助工具。

1. 环境准备

  • 安装 Ollama,并拉取 DeepSeek 模型。
  • 确认本地接口可访问,例如 http://localhost:11434。
  • 安装 Excel,并具备基础 VBA 能力。
  • 如需知识库能力,可再安装 AnythingLLM 等工具。

2. 调用本地模型的 VBA 示例

下面示例以 Ollama 的 /api/generate 接口为例,将 A2 单元格的问题发送给本地模型,并把返回内容写入 A4 单元格。

  1. Sub CallDeepSeek()
  2. Dim question As String
  3. Dim url As String
  4. Dim http As Object
  5. Dim requestBody As String
  6. question = ThisWorkbook.Sheets(1).Range("A2").Value
  7. url = "http://localhost:11434/api/generate"
  8. Set http = CreateObject("MSXML2.XMLHTTP")
  9. http.Open "POST", url, False
  10. http.setRequestHeader "Content-Type", "application/json"
  11. requestBody = "{""model"":""deepseek-r1:7b"",""prompt"":""" & _
  12. question & """,""stream"":false}"
  13. http.send requestBody
  14. If http.Status = 200 Then
  15. ThisWorkbook.Sheets(1).Range("A4").Value = http.responseText
  16. Else
  17. MsgBox "调用失败:" & http.Status & vbCrLf & http.responseText
  18. End If
  19. End Sub

需要注意:Ollama 返回的是 JSON 文本,如果希望 A4 只显示模型回答,需要进一步解析 response 字段。若问题文本中包含双引号等特殊字符,还需要做 JSON 转义。若不熟悉 VBA 的 JSON 解析,可以先用 Python 做一层转换,再把结果写回 Excel。

  1. import requests
  2. question = "请帮我总结下面这段话的核心要点"
  3. resp = requests.post(
  4. "http://localhost:11434/api/generate",
  5. json={
  6. "model": "deepseek-r1:7b",
  7. "prompt": question,
  8. "stream": False
  9. },
  10. timeout=120
  11. )
  12. print(resp.json()["response"])

3. 可拓展的 Excel 玩法

  • 批量生成商品标题:A 列输入商品信息,B 列输出标题。
  • 会议纪要整理:粘贴原始纪要,自动生成待办事项。
  • 数据清洗建议:让模型根据字段说明生成清洗规则。
  • 公式解释:选中单元格公式,让模型解释用途和错误原因。

rag-">三、场景二:构建私有知识库与 RAG 应用

本地部署 DeepSeek 后,很适合做企业私有知识库。基本架构是:文档解析 → 文本切分 → 向量化 → 检索 → 本地 DeepSeek 生成答案。

在 Dify 中,可以通过添加模型并编排聊天助手来构建应用。如果本地模型提供 OpenAI 兼容接口,也可以作为模型后端接入类似平台。对于内部制度、产品手册、技术文档、客服 FAQ 等场景,RAG 能减少模型胡编,提升回答可控性。

一个可落地的流程如下:

  1. 上传 PDF、Word、Markdown 等文档。
  2. 对文档进行清洗和分段。
  3. 使用向量模型建立索引。
  4. 用户提问后先检索相关片段。
  5. 将片段和问题一起交给本地 DeepSeek 生成答案。
  6. 在答案中标注来源文档,方便审计。

四、场景三:接入桌面客户端与编程工具

本地部署后的模型还可以通过自定义 API 地址接入常见客户端和开发工具。在 Chatbox、Cherry Studio 和 Roo Code 中,也可以通过自定义 API 地址或 OpenAI Compatible 方式接入模型服务。

常见用法包括:

  • Chatbox / Cherry Studio :作为日常问答、写作、翻译客户端。
  • Roo Code / IDE 插件 :辅助代码解释、重构、注释生成。
  • One API / 网关层 :统一管理多个模型渠道,便于切换和审计。

例如,在支持 OpenAI Compatible 的工具中,可以填写本地服务地址、模型名称和密钥。若本地服务未启用鉴权,可填写占位符。这样就能把本地 DeepSeek 当成一个“私有模型服务”使用。

五、场景四:做联网搜索、文档上传和 OCR 应用

本地模型本身通常不直接联网,但可以通过外挂搜索服务、浏览器抓取工具和 OCR 服务,组合成更完整的应用。联网搜索应用通常采用多轮查询、相关性分析和网页内容提取流程。

你可以这样设计:

  1. 用户输入问题。
  2. 程序调用搜索 API 获取候选网页。
  3. 对网页内容进行清洗和摘要。
  4. 将高相关内容交给本地 DeepSeek 总结。
  5. 输出答案和引用链接。

如果涉及图片、扫描件或表格截图,还可以加入 OCR 服务,把图片转成文本后再交给模型处理。这类方案适合资料调研、竞品分析、政策检索和内部知识采集。

agent-">六、场景五:企业内网自动化与 Agent 工作流

本地部署的最大优势之一是数据可控。对于金融、制造、政务、医疗等场景,可以把 DeepSeek 放在内网中,处理敏感文本。常见落地方向包括:

  • 日志分析 :让模型总结异常日志、提取错误原因。
  • 工单辅助 :根据用户描述生成初步处理建议。
  • 报表摘要 :定时读取业务数据,生成日报或周报。
  • 代码审查 :在本地代码仓库中解释变更、提示风险。
  • Agent 工具调用 :结合数据库查询、文件读取、邮件发送等工具完成任务。

需要注意的是,Agent 场景不能只依赖模型输出,还要加入权限控制、工具白名单、人工复核和日志审计,避免误操作。

七、本地部署后的选型与注意事项

本地部署并不是“下载模型就结束”,还需要综合考虑模型规模、硬件资源、响应速度和输出质量。

1. 模型规模选择

  • 小参数模型:适合轻量问答、文本改写、简单分类。
  • 中等参数模型:适合较复杂总结、代码辅助和知识库问答。
  • 大参数模型:适合高难度推理,但对显存和推理设备要求更高。

实际选择时,建议先用小模型验证业务流程,再根据效果逐步升级。

2. 硬件与性能

需要关注显存、内存、CPU、磁盘 I/O 和并发请求数。若使用量化模型,可以在有限硬件上运行更大参数模型,但可能会牺牲部分精度。对于生产环境,建议做压力测试,观察首字延迟、吞吐量和错误率。

3. 接口与安全

本地 API 不应直接暴露到公网。建议:

  • 使用内网访问或 VPN。
  • 增加 API Key、IP 白名单或网关鉴权。
  • 对输入输出进行日志脱敏。
  • 对高风险操作增加人工确认。

4. 本地与云端如何搭配

如果本地模型无法满足复杂推理、长上下文或多模态需求,可以采用混合架构:敏感数据走本地模型,复杂任务走云端模型。此时可以通过大模型 API 服务平台进行模型能力、调用成本和接入方式的对比,帮助你选择更合适的模型组合。

八、一个实用的落地路线

如果你刚开始,可以按以下路线推进:

  1. 第一步:跑通本地推理
    安装 Ollama,拉取 DeepSeek 模型,确认能通过 API 返回结果。

  2. 第二步:接入一个简单应用
    先用 Excel、Chatbox 或命令行脚本验证调用链路。

  3. 第三步:加入知识库
    引入文档解析和向量检索,让模型基于私有资料回答。

  4. 第四步:加入工具调用
    让模型能够查询数据库、读取文件、调用搜索或发送通知。

  5. 第五步:建立统一模型网关
    当本地模型和云端模型同时存在时,用统一 API 网关管理路由、鉴权和日志。在 One API 中,可以通过渠道管理统一接入不同模型服务。

结语

DeepSeek 本地部署之后,真正有价值的方向不是单纯“本地聊天”,而是把它变成可嵌入业务系统的 AI 能力。你可以从 Excel 助手开始,逐步扩展到知识库、编程工具、联网搜索和内网 Agent。若需要评估不同模型的能力、价格和接入方式,可以进一步了解词元所模型服务,为本地与云端混合部署提供参考。