OpenAI SDK兼容介绍
所有文档
menu

千帆大模型服务与开发平台ModelBuilder

OpenAI SDK兼容介绍

千帆ModelBuilder提供了与OpenAI兼容的使用方式,用户只需调整api_key、base_url、model等参数,就可以通过OpenAI SDK调用千帆ModelBuilder推理服务。

base_url说明

base_url指模型服务的请求地址。通过该地址,可以请求服务提供的功能或数据。当使用OpenAI兼容接口调用千帆ModelBuilder模型服务时,需要配置base_url。

  • 需要配置的base_url如下:https://qianfan.baidubce.com/v2

api_key说明

api_key是在调用推理服务V2版本 API时使用,通过在控制台-用户账号-安全认证-API Key页面,查看API Key,此API Key永久有效。获取步骤如下:

(1)登录控制台-安全认证-API Key

(2)点击创建API Key。

如果已有API Key,可跳过此步骤。如需创建,点击创建按钮,选择千帆ModelBuilder。

image.png

(3)配置资源。

配置API Key对应的V2版本应用对应的appid,即对应appid可以使用API Key调用推理服务V2版本接口。

image.png

  • 所有资源,表示appid对应的V2版本应用,都可以使用该API Key。
  • 特定资源,表示特定V2应用对应的appid,可以使用该API Key。

(4) 点击确定。

(5)在API Key列表查看API Key值。

image.png

appid说明

支持通过自定义header方式入参appid,通过appid区分调用量和账单,具体是否用方式参考:多应用管理

支持的模型列表

目前推理服务V2版本兼容通过OpenAI方式调用,支持模型清单请查看 开始使用-模型列表

SDK支持清单

上一篇
SDK介绍
下一篇
平台功能OpenAPI