符合OpenAI标准的第三方模型服务调用
更新时间:2026-06-26
前提条件
- 已开通BOS、OOS、BLS权限。
- 已完成资源环境准备。
- 待处理测试文本、图像、视频已提前上传至BOS存储路径。
场景概览
本场景面向有外接第三方闭源大模型需求的用户,百度胜算兼容 OpenAI 标准接口协议,支持接入各类遵循 OpenAI 规范的第三方大模型服务。用户仅需录入服务商提供的 API Key 完成鉴权配置,即可在平台工作流、Notebook、多模态处理算子中统一调用第三方模型能力,覆盖文本生成、内容总结、多模态问答等业务场景。同时平台提供清晰的调用链路观测与独立计费统计能力,实现第三方模型接入、调用、成本管控一站式落地。
操作步骤
步骤一:读取BOS元数据,创建数据卷
本步骤仅读取BOS文件元数据,不重复存储原始图片数据,节省存储资源。
- 登录百度胜算控制台,进入已经创建好的工作空间。在侧边导航栏选择元数据。
- 单击新建按钮,选择创建数据目录,配置数据目录名称为test。

- 选择已创建好的数据目录test,依次单击default>立即创建>创建数据卷。

- 配置数据卷名称为image_data,数据卷类型选择外部卷,输入BOS路径、配置AccessKey和SecretKey,然后单击确认。

步骤二:创建项目并配置计算资源权限
- 在左侧导航栏单击工作台,单击立即创建按钮,创建项目。
- 输入项目名称test_coco,然后单击确定。
- 在左侧导航栏单击计算资源,单击列表操作列的权限管理按钮,确认当前创建的项目具备计算资源的使用权限,确保后续工作流可正常调度算力。
步骤三:创建工作流
- 在左侧导航栏单击数据连接与集成>工作流,单击预置模版页签。
- 在搜索框输入关键词LLM进行搜索,选择算子-文本-LLM大模型推理模版,单击使用模版。

- 展开算子-文本-LLM大模型推理算子任务,单击数据加载器算子,配置data_path为步骤一创建的数据卷所在的文件夹路径。

- 单击图片开放世界检测算子。填入server_url,api_key,model等必要参数,其中可以根据自身任务来修改user_prompt和system_prompt等参数。参数解释如下:
| 字段名 | 字段类型 | 是否必须 | 默认值 | 字段描述 |
|---|---|---|---|---|
| server_url | STRING | 是 | 模型服务地址 | |
| api_key | STRING | 是 | API 认证密钥 | |
| model | STRING | 是 | 模型名称 | |
| user_prompt | STRING | 是 | 用户提示词模板,使用 {db_text_content} 作为占位符插入输入文本,例如 '请总结以下内容:{db_text_content} | |
| system_prompt | STRING | 否 | ”“ | 系统提示词 |
| temperature | FLOAT | 否 | 1.0 | 生成随机性,范围 0~2 |
| top_p | FLOAT | 否 | 1.0 | 核采样概率阈值 |
| max_tokens | INT | 否 | 2048 | 最大输出 token 数 |
| frequency_penalty | FLOAT | 否 | 0.0 | 频率惩罚,范围 -2~2 |
| presence_penalty | FLOAT | 否 | 0.0 | 存在惩罚,范围 -2~2 |
| response_format | STRING | 否 | "" | 输出格式,如 json_object |
| stop | ARRAY | 否 | "" | 停止序列 JSON 字符串,如 ["\n","END"] |
| n | INT | 否 | 1 | 候选回复数 |
| seed | INT | 否 | None | 随机种子 |
| timeout | INT | 否 | 60 | 请求超时(秒) |
| extra_body | DICT | 否 | {"thinking":{"type":"disabled"}} |
传递平台扩展参数,如 top_k、thinking 等" |

- 最后依次单击工作流详情页面右上角的保存>立即运行。
步骤四:查看工作流运行结果
- 单击工作流详情页面右上角的运行记录按钮,查看工作流是否执行成功。

- 运行成功后,单击查看按钮进入记录详情页面,然后单击右侧任务结果按钮。
- 在任务结果详情面板单击输出路径,可跳转至输出结果的数据页面。

- 在输出结果中,可以通过直接点击文件名称或者预览、下载的按钮,来查看工作流的运行结果。

评价此篇文章
