功能特性
所有文档
menu

千帆大模型服务与开发平台ModelBuilder

功能特性

千帆ModelBuilder平台提供以下核心功能特性,您可通过对应链接快速体验:

模型能力

推理优化

  • 批量推理:支持大规模数据集的批量处理与统一推理,结果自动导出至指定位置
  • 时延优化:提供大模型请求时延优化的最佳实践方案
  • Prompt Cache:通过缓存机制降低首Token延迟,提升推理效率

管理功能

  • 应用管理:支持自定义应用调用量监控与分项账单管理
  • 用量统计:提供API与控制台双维度模型调用量统计
上一篇
模型能力
下一篇
平台计费