千帆SDK介绍
更新时间:2024-03-26
介绍
百度智能云千帆大模型平台提供了多种语言的千帆 SDK,如Python、Go、Java和Node.js。开发者可使用 SDK,快捷地开发功能,提升开发效率。SDK 支持对话Chat、续写Completions、向量Embeddings、模型管理、模型服务、模型调优等调用。
千帆SDK开源说明
千帆SDK已开源,欢迎广大开发者加入交流,详见千帆SDK开源说明。
使用教程
千帆提供了一些使用场景示例,帮助开发者快速上手。
- 图像Image示例:介绍了如何使用千帆Python SDK 完成根据文本生成图片。
- ERNIE Bot 搜索能力示例:介绍了通过千帆Python SDK,实现ENRIE Bot 的搜索增强能力和使用方法。
- 批量预测示例:介绍了如何使用Python SDK 批量对数据进行预测。
- Prompt 模板:介绍了如何使用Python SDK 管理和使用 Prompt。
- Python SDK快速入门:介绍了如何通过Python SDK,使用大模型调用对话Chat能力。
- Go SDK快速入门:介绍了如何通过Go SDK,使用大模型调用对话Chat能力。
- Node.js SDK快速入门:介绍了如何通过Node.js SDK,使用大模型调用对话Chat能力。
SDK 支持的语言及版本
千帆提供了以下语言SDK:
- Python SDK,支持 Python >= 3.7版本
- Go SDK,支持 Golang >= 1.18 版本
- Java SDK,支持 JDK >= 1.8 版本
- Node.js SDK
SDK 安装及使用流程
- Python SDK,请查看Python SDK 安装及使用流程
- Go SDK,请查看Go SDK 安装及使用说明
- Java SDK,请查看Java SDK说明文档
- Node.js SDK,请查看Node.js SDK 安装及使用说明
SDK 支持的功能
千帆SDK提供了丰富的能力,包括对话Chat、续写Completions、向量Embeddings、插件应用、Prompt工程、模型服务、管理、调优及数据管理等能力,详情请查看SDK功能列表。
-
大模型能力相关
- 对话Chat,支持创建chat,用于发起一次对话。
- 续写Completions,支持创建completion,用于发起一次续写请求,不支持多轮会话等。
- 向量Embeddings,支持Embeddings,用于根据输入内容生成对应的向量表示。
- 图像Images,提供图像相关API能力。
- Token计算,根据输入计算token数。
- 模型服务:提供创建服务、获取服务详情等能力。
- 模型管理:提供获取模型、模型版本详情,获取用户/预置模型及将训练任务发布为模型等能力。
- 模型调优:提供创建训练任务、任务运行、停止任务运行及获取任务运行详情等能力。
- 数据管理:提供创建数据集等数据集管理、导入导出数据集任务、数据清洗任务管理等能力。
- Prompt工程:提供模板管理、Prompt优化任务、评估等相关能力。
- 插件应用:提供知识库、智慧图问、天气等相关能力。
注意: 千帆Python SDK 支持的功能更丰富,Go、Node.js SDK功能逐步完善。
命令行CLI工具
千帆提供了命令行CLI工具,方便在命令行中直接使用千帆平台功能,如提供了对话Chat、续写Completions、图像Images、数据集dataSet、训练trainer等。更多介绍详见CLI工具介绍。