推理服务API介绍 本文介绍了千帆ModelBuilder提供的推理服务API相关能力,以及如何调用API的流程等。 API 列表 千帆ModelBuilder提供了丰富的推理服务API,包括对话Chat、续写Completions、向量Embeddings、批量预测等API能力。平台提供了不同版本内容,供开发者使用。详情请查看 API列表 。
服务管理 创建服务 服务 是API中心管理的统一单位 登录 百度智能云官网 ,点击右上角的“管理控制台”,快速进入控制台界面。 选择“产品服务>API网关>API中心”,进入“API服务管理列表”页面。 点击“新建服务”,弹出选框,填写配置信息,包括: 服务名称:设置服务名称,必须以字母或中文开头,由大小写字母、中文和数字组成,1~50个字符。 完成配置后点击“确认”,完成服务的创建。
登录/注册 个人中心 消息中心 退出登录 1 文心一言API Java简单封装 大模型开发 / 技术交流 API 社区上线 开箱评测 2023.10.07 1940 看过 文心一言大模型API请求简单封装 由于官方未提供 Java 的 SDK,所以根据提供的http封装 成Java 的方法,开箱即用。只支持文心一言的模型(ernie-bot模型) 直接调用 api 即可。
登录/注册 个人中心 消息中心 退出登录 1 文心一言API Java简单封装 大模型开发 / 技术交流 API 社区上线 开箱评测 2023.10.07 1939 看过 文心一言大模型API请求简单封装 由于官方未提供 Java 的 SDK,所以根据提供的http封装 成Java 的方法,开箱即用。只支持文心一言的模型(ernie-bot模型) 直接调用 api 即可。
核心概念 API API是一些预先定义的函数,应用将自身服务能力的封装,也是API网关中的最小管理单元。网关中的API包括基本信息、API请求信息、API后端服务信息、返回结果信息等。 API分组 API分组是同一种管理API的集合,API开发者以API分组为单位,管理分组内的所有API,在分组维度可以管理域名、环境变量、model等。
产品功能 API 生命周期管理 支持 API 发布、API配置、API 测试、API 下线等生命周期管理功能。 支持 API 日常管理、API 版本管理、API 版本快速回滚等维护功能。 全面的安全防护 支持多种安全可靠的认证方式 百度Cloud子域名支持HTTPS协议,支持 SSL 加密。 防攻击、请求防重放、请求防篡改。
仅为实际使用付费 仅需对 API 网关中的 API 访问次数和网络下行流量付费,API 管理、文档维护、SDK 生成、流量控制和权限控制等功能均不会产生费用。 高性能、高可靠 API 网关支持高可用,异地多中心API网关部署,自动扩缩容,提供高性能高可靠的服务,能够承载大规模的 API 访问。
授权API 网关发布的API是通过授权给APP来访问的,用户的APP需要获得API的授权才能调用该API。 在API的列表页面点击授权操作,可对该API进行授权操作。 授权操作目前支持对API三种环境的授权。 授权的时候可以指定授权的过期时间,授权时间可以设置为永久或者指定日期,授权时间过期后,则不支持通过该APP进行访问。 网关支持一次性授权多个APP的操作。
环境管理 每个 API 分组具有三个环境:测试、预发布和线上。分组下的 API 可以选择发布到该分组的某个环境中,也可以同时发布到多个环境中。 我们可以为每个环境定义相应的环境变量参数,API 在配置发往后端的请求时,可以在任意位置使用环境变量。当调用 API 时,API 网关将根据 API 所处的环境来解析对应的环境变量。 点击“操作”列下的“环境管理”,进入环境管理配置页。
使用限制 本文描述了API网关的使用限制。 限制项 描述 使用API网关服务的用户限制 用户需实名认证。 分组数量 1. 每个账号最多创建50个分组; 2. 默认最多创建5个未绑定域名的API分组,如果有绑定域名的API分组,则未绑定域名的API分组总数上限为20个; 3. 支持通过 工单申请 调整。 分组默认域名 1. 通过浏览器直接访问时,浏览器默认执行下载; 2. 禁止重定向。