功能特性
更新时间:2025-04-23
千帆ModelBuilder平台提供以下核心功能特性,您可通过对应链接快速体验:
模型能力
- 函数调用(Function Calling):支持通过自然语言描述触发预定义函数,实现结构化数据交互
- 结构化输出:根据用户定义的JSON Schema格式生成规范化输出
- 联网搜索:实时获取网络信息并生成摘要结果
- 阅读助手插件:支持长文档/网页内容的摘要生成、结构化分析与信息提炼
- 对话前缀续写:根据用户提供的assistant消息前缀自动生成完整对话内容
推理优化
- 批量推理:支持大规模数据集的批量处理与统一推理,结果自动导出至指定位置
- 时延优化:提供大模型请求时延优化的最佳实践方案
- Prompt Cache:通过缓存机制降低首Token延迟,提升推理效率