推理服务API V2
更新时间：2025-04-21
千帆ModelBuilder提供了丰富的推理服务API能力。且平台提供了不同版本内容，供开发者使用。为提升使用体验，平台新增支持V2版本模型服务API，完全兼容OpenAI标准（包含身份认证、接口协议）。支持的模型请查看开始使用-模型列表。
搜索本产品文档关键词
推理服务API V2
千帆大模型服务与开发平台ModelBuilder
- 开始使用
- 模型
- 平台计费
- 模型服务计费
- 平台功能计费
- 续费和退款说明
- token计算说明
- 推理服务API
- 推理服务API介绍
- 名词解释
- 推理服务API V2
- 推理服务API V1
- 接口概览
- 通用说明
- 服务域名
- 错误码
- 错误缓解方案
- API调用指南
- 鉴权认证
- 鉴权介绍
- 使用access_token鉴权
- 使用教程
- 对话Chat
- ERNIE 4.0
- ERNIE 4.0 Turbo
- ERNIE 3.5
- ERNIE-Speed-Pro-128K
- ERNIE Speed
- ERNIE Lite
- ERNIE-Lite-Pro-128K
- ERNIE Tiny
- ERNIE-Novel-8K
- ERNIE Character
- ERNIE-Functions-8K
- Qianfan-Dynamic-8K
- Qianfan-Agent-Speed-8K
- Qianfan-Agent-Speed-32K
- Qianfan-Agent-Lite-8K
- Gemma-2B-it
- Gemma-7B-it
- Yi-34B-Chat
- Mixtral-8x7B-Instruct
- Mistral-7B-Instruct
- Llama-2-7B
- Llama-2-13B
- Llama-2-70B
- Qianfan-Chinese-Llama-2-1.3B
- Meta-Llama-3-8B-Instruct
- Meta-Llama-3-70B-Instruct
- ChatGLM3-6B
- ChatGLM2-6B
- Baichuan2-7B-Chat
- Baichuan2-13B-Chat
- XVERSE-13B-Chat
- XuanYuan-70B-Chat-4bit
- DISC-MedLLM
- Falcon-7B
- Falcon-40B-Instruct
- AquilaChat-7B
- RWKV-4-World
- BLOOMZ-7B
- RWKV-14B
- OpenLLaMA-7B
- Dolly-12B
- MPT-7B-Instruct
- MPT-30B-instruct
- OA-Pythia-12B-SFT-4
- 续写Completions
- 向量Embeddings
- 图像Images
- 重排序Reranker
- 自定义模型调用API
- 平台训练模型调用API
- Token计算
- 快速入门
- 平台功能OpenAPI
- SDK参考
- SDK介绍
- 推理服务API V2
- 平台功能OpenAPI
- 历史文档
- 推理服务API V1
- 推理服务API V1介绍
- SDK安装及使用
- 使用教程
- 对话Chat
- 续写Completions
- 向量Embeddings
- 图像Images
- 重排序Reranker
- 自定义模型调用API
- 平台训练模型调用API
- Token计算
- 在线服务压测指南
- 平台功能OpenAPI
- 模块使用
- 命令行CLI工具
- 在线服务压测指南
- 推理服务API V1
- 最佳实践
- 平台操作
- 常见问题
- 相关协议
所有文档
没有找到结果，请重新输入
千帆大模型服务与开发平台ModelBuilder
- 开始使用
- 模型
- 平台计费
- 模型服务计费
- 平台功能计费
- 续费和退款说明
- token计算说明
- 推理服务API
- 推理服务API介绍
- 名词解释
- 推理服务API V2
- 推理服务API V1
- 接口概览
- 通用说明
- 服务域名
- 错误码
- 错误缓解方案
- API调用指南
- 鉴权认证
- 鉴权介绍
- 使用access_token鉴权
- 使用教程
- 对话Chat
- ERNIE 4.0
- ERNIE 4.0 Turbo
- ERNIE 3.5
- ERNIE-Speed-Pro-128K
- ERNIE Speed
- ERNIE Lite
- ERNIE-Lite-Pro-128K
- ERNIE Tiny
- ERNIE-Novel-8K
- ERNIE Character
- ERNIE-Functions-8K
- Qianfan-Dynamic-8K
- Qianfan-Agent-Speed-8K
- Qianfan-Agent-Speed-32K
- Qianfan-Agent-Lite-8K
- Gemma-2B-it
- Gemma-7B-it
- Yi-34B-Chat
- Mixtral-8x7B-Instruct
- Mistral-7B-Instruct
- Llama-2-7B
- Llama-2-13B
- Llama-2-70B
- Qianfan-Chinese-Llama-2-1.3B
- Meta-Llama-3-8B-Instruct
- Meta-Llama-3-70B-Instruct
- ChatGLM3-6B
- ChatGLM2-6B
- Baichuan2-7B-Chat
- Baichuan2-13B-Chat
- XVERSE-13B-Chat
- XuanYuan-70B-Chat-4bit
- DISC-MedLLM
- Falcon-7B
- Falcon-40B-Instruct
- AquilaChat-7B
- RWKV-4-World
- BLOOMZ-7B
- RWKV-14B
- OpenLLaMA-7B
- Dolly-12B
- MPT-7B-Instruct
- MPT-30B-instruct
- OA-Pythia-12B-SFT-4
- 续写Completions
- 向量Embeddings
- 图像Images
- 重排序Reranker
- 自定义模型调用API
- 平台训练模型调用API
- Token计算
- 快速入门
- 平台功能OpenAPI
- SDK参考
- SDK介绍
- 推理服务API V2
- 平台功能OpenAPI
- 历史文档
- 推理服务API V1
- 推理服务API V1介绍
- SDK安装及使用
- 使用教程
- 对话Chat
- 续写Completions
- 向量Embeddings
- 图像Images
- 重排序Reranker
- 自定义模型调用API
- 平台训练模型调用API
- Token计算
- 在线服务压测指南
- 平台功能OpenAPI
- 模块使用
- 命令行CLI工具
- 在线服务压测指南
- 推理服务API V1
- 最佳实践
- 平台操作
- 常见问题
- 相关协议