简介:本文说明如何在百度千帆平台调用DeepSeek模型,并组合平台的搜索、OCR、语音等能力。内容涵盖三种接入方式、基础请求结构、错误分类与重试、引用留存、流式事件解析,以及成本拆分和上线前检查清单。平台接口细节请以千帆最新文档为准,DeepSeek官方API的能力范围另行核对。
本文示例基于百度智能云千帆平台。千帆提供的DeepSeek模型,以及平台上的搜索、OCR、语音等能力,与DeepSeek官方API的能力范围可能不同。接入前需要确认三件事:所选平台是否提供该模型,接口支持哪些工具字段,以及计费和限流规则是什么。文中的模型名、工具类型和字段名只用于说明结构,实际参数请以千帆文档和DeepSeek官方文档为准。
第一种是内嵌工具调用。请求中声明工具后,模型自行判断是否需要检索或读取链接,再把结果整合进回答。非思考模式适合时效性问答。开启思考模式后,模型会在推理过程中多次检索,适合竞品分析、政策梳理等需要交叉验证的任务。代价是延迟和token消耗都会增加,成本估算时要把这部分算进去。
第二种是独立能力接口。搜索、网页抓取、OCR、语音识别和语音合成可以作为平台的独立能力单独调用,嵌入自己的业务流程。以客服场景为例,故障仪表盘照片先经OCR转成文本,再交给对话模型生成回复,最后用语音合成播报。每一步都可以单独重试、限流或更换供应商,主模型不需要改动。
第三种是OpenAI兼容协议。如果现有代码基于OpenAI SDK,通常只需替换base_url和密钥。千帆V2的地址示例为https://qianfan.baidubce.com/v2,Chat补全路径为/chat/completions。上线前应到千帆文档核对该地址是否仍然有效。
下面的curl命令展示基础调用结构。模型名和工具类型需要按千帆文档填写,此处用占位符表示。
curl https://qianfan.baidubce.com/v2/chat/completions \-H "Authorization: Bearer $QIANFAN_API_KEY" \-H "Content-Type: application/json" \--max-time 60 \-d '{"model": "<千帆模型列表中的DeepSeek模型名>","messages": [{"role": "user", "content": "本周国内新能源车销量排行,并给出数据来源"}],"tools": [{"type": "<千帆文档中的联网搜索工具类型>"}]}'
密钥应写入环境变量,不要出现在代码或日志中。调试时可以先去掉tools字段,确认基础对话能通,再逐步加入工具声明。
返回非200状态码时,应读取错误类型和提示信息,并判断是否值得重试。下表给出常见情况的处理思路,具体含义以平台文档为准。
| 状态码 | 常见含义 | 处理方式 |
|---|---|---|
| 400 | 请求参数错误 | 不重试,修正请求体 |
| 401、403 | 鉴权失败或无权限 | 不重试,检查密钥和服务开通状态 |
| 404 | 地址或模型名错误 | 不重试,核对路径和模型名 |
| 429 | 限流或配额不足 | 指数退避后重试,并检查配额 |
| 5xx | 服务端错误 | 指数退避后重试,超过次数后降级 |
日志中应记录错误类型和提示信息,但不能记录密钥和用户的完整敏感内容。
超时与重试。 搜索和抓取依赖外部网络,延迟波动远大于纯推理。每类工具都应设置独立超时,例如模型调用、搜索、抓取、OCR分别设置不同的上限。重试时要保证幂等,比如为每次业务请求生成唯一编号,避免重复计费或重复写入数据库。
引用留存。 联网搜索返回的来源建议存入数据库,至少包括标题、链接和抓取时间。前端可以据此展示溯源,出现事实争议时也能回查当时的依据。同时要注意版权与缓存策略,展示时只摘录必要片段,避免大段转载原文。
流式事件解析。 开启工具后,流式输出中会夹杂工具调用事件。解析器需要区分文本增量、工具调用开始与结束、引用返回等事件类型。若把这些事件直接当作文本渲染,页面就会出现半句话或空白。下面的伪代码展示了基本分支结构,其中事件类型名仅为示意,实际名称以平台文档为准。
for event in stream:if event.type == "text_delta":render_text(event.text)elif event.type in ("tool_call_start", "tool_call_end"):update_tool_status(event)elif event.type == "citation":save_citation(event)else:log_unknown_event(event.type) # 忽略未知类型并记录日志,不要抛出异常
PDF、Office文档和图片可以作为附件传入。长文档转成文本后token数量很大,整篇放进上下文会挤占其他内容,也会推高成本。更稳妥的做法是先按章节分段,为每段生成摘要,再针对具体问题检索相关段落。分段时要保留原文页码和段落定位,方便回答时标注出处,也便于后续核对版权范围。
上传前应检查文件大小和页数是否超出平台限制。解析失败时,可以降级到OCR,或提示用户手动处理。身份证、银行卡、病历等敏感内容需要先脱敏再上传,脱敏规则应由业务方和合规人员共同确定。
计费项通常不止主模型的token。搜索次数、抓取次数、OCR页数和语音时长可能分别计量,每种都需要单独监控。下表列出常见计费维度,具体单价以千帆定价页为准。
| 计费维度 | 说明 | 核对方式 |
|---|---|---|
| 模型token | 输入、输出,以及思考模式下的推理token | 查看调用返回的用量字段 |
| 搜索次数 | 每次工具调用触发的检索 | 对照账单中的工具调用记录 |
| 网页抓取次数 | 每次读取链接的请求 | 对照账单中的抓取记录 |
| OCR页数 | 按图片或文档页计量 | 对照账单中的页数统计 |
| 语音时长 | 语音识别和语音合成可能分别计量 | 对照账单中的音频时长 |
影响成本的主要因素有三个:思考模式是否常开,上下文是否裁剪,简单任务是否分流给轻量模型。建议按能力维度拆分监控,不要只盯总token。
选型时可以用自己的测试集做对比。选取20到50条代表性样本,分别在候选模型上运行,记录准确率、延迟和单次成本。根据结果决定哪些环节使用旗舰模型,哪些环节交给轻量模型。
模型数量增加后,密钥轮换、配额分配和成本核算都会变成负担。常见做法是用网关统一管理。以One API为例,可以新建渠道,按当前版本选择千帆或OpenAI兼容相关的渠道类型,填入密钥和模型名,再通过统一令牌对外提供服务。渠道类型名称会随版本变化,配置前请对照当前版本文档,并先在测试环境中验证。
若只想快速验证效果,可以在Chatbox等客户端中添加自定义提供方,填写上面的地址和密钥。验证通过后再编写代码接入,可以减少前期的调试时间。
本文示例偏向千帆平台,不等于DeepSeek官方API的全部能力。建议先用Chatbox或Postman验证关键能力,确认返回结构、计费方式和限流规则,再逐步迁移到生产链路,同时评估成本与合规风险。