推理服务API介绍
更新时间:2025-07-11
本文介绍了千帆ModelBuilder提供的推理服务API相关能力,以及如何调用API的流程等。
API 列表
千帆ModelBuilder提供了丰富的推理服务API,包括对话Chat、续写Completions、向量Embeddings、批量预测等API能力。平台提供了不同版本内容,供开发者使用。详情请查看开始使用-模型列表。
为提升使用体验,平台新增支持V2版本模型服务API,完全兼容OpenAI标准(包含身份认证、接口协议),V2版本支持以下功能。
- 文本生成:支持创建chat,用于发起一次对话。
- 视觉理解:可根据用户输入的图像和文字,回答有关问题。
- 图像生成:根据输入的文本或图片生成图片。
- 图像编辑:对图像进行编辑。
- 向量:用于根据输入内容生成对应的向量表示。
- 重排序:用于重新排序向量模型返回的top-k文档,优化语义搜索结果。
- 阅读助手插件:插件主要进行文档分析、网页解析,支持长传文档、网页,对其内容做摘要、分析、整理等任务。
HTTP调用API流程介绍
参考:快速开始-调用模型服务
SDK调用
在线调试
千帆ModelBuilder提供了 API在线调试平台-示例代码 ,用于帮助开发者调试接口,平台集成快速检索、查看开发文档、查看在线调用的请求内容和返回结果、复制和下载示例代码等功能,简单易用,更多内容请查看API在线调试介绍。
错误码
在调用API请求后,可以通过返回的错误码、错误信息及排查建议等进行问题排查,请参考错误码。