总览
总览
总览从全局视角展示所有大模型应用的整体监控数据,覆盖大模型应用整体的概览分析数据、模型调用分析以及用户分析等多个维度。
进入方式:
- 登录百度智能云控制台,选择云监控 BCM。
- 在左侧导航栏点击 Agent 可观测->总览,在顶部选择目标地域。
- 全局概览展示所有大模型应用整体的概览分析数据,查看所有应用的大模型调用和Token分析等数据;您也可以点击左上方切换至模型调用分析以及用户分析,从某一模型维度以及用户维度查看相关数据。
概览
全局概览展示所有大模型应用整体的概览分析数据,查看所有应用的大模型调用和 Token 分析等数据。

| 面板 |
说明 |
| 应用数 |
已接入大模型应用数 |
| 大模型数量 |
所有应用在指定时间段使用的大模型数量 |
| 模型调用次数 |
所有应用在指定时间段产生的大模型调用次数 |
| Token 用量 |
所有应用在指定时间段产生的 Token 用量 |
| 用户数 |
指定时间段内使用大模型应用的用户数 |
| 会话数(Session) |
所有应用在指定时间段产生的会话(Session)数量 |
| 对话数(Trace) |
所有应用在指定时间段产生的对话(Trace)数量 |
| 面板 |
说明 |
| Token 用量趋势图 |
展示所有应用的 Token 用量情况趋势图,分 input 和 output 统计 |
| Avg Tokens per request 趋势图 |
展示所有应用用户每次 request 请求平均使用的 Token 数量趋势图,分 input 和 output 统计 |
| Avg Tokens per LLM call 趋势图 |
展示所有应用每次 LLM 模型调用平均使用的 Token 数量,分 input 和 output 统计 |
| 面板 |
说明 |
| 模型调用次数 Top5 |
基于所有应用对大模型的调用,统计调用次数 Top5 的大模型,支持切换趋势图显示 |
| 模型调用错误数 Top5 |
基于所有应用对大模型的调用,统计调用错误 Top5 的大模型,支持切换趋势图显示 |
| 模型调用平均耗时 Top5 |
基于所有应用对大模型的调用,统计调用平均耗时 Top5 的大模型,支持切换趋势图显示 |
| 模型调用首 Token 平均耗时 Top5 |
基于所有应用对大模型的调用,统计调用首 Token 平均耗时 Top5 的大模型,支持切换趋势图显示 |
| 面板 |
说明 |
| 模型调用次数 应用 Top5 |
基于所有应用对大模型的调用,统计大模型调用次数 Top5 的应用,支持切换趋势图显示 |
| 模型调用错误数 应用 Top5 |
基于所有应用对大模型的调用,统计大模型调用错误 Top5 的应用,支持切换趋势图显示 |
| 模型调用平均耗时 应用 Top5 |
基于所有应用对大模型的调用,统计大模型调用平均耗时 Top5 的应用,支持切换趋势图显示 |
| 模型调用首 Token 平均耗时 应用 Top5 |
基于所有应用对大模型的调用,统计大模型调用首 Token 平均耗时 Top5 的应用,支持切换趋势图显示 |
模型调用分析
模型调用分析从全局角度查看所有模型调用相关数据,并支持模型切换,查看具体某一个模型的相关数据。

| 面板 |
说明 |
| 模型调用次数 |
展示所有应用在指定时间段内调用大模型的次数 |
| 模型调用 QPS |
展示所有应用在指定时间段内调用大模型的 QPS |
| 模型调用错误数 |
展示所有应用在指定时间段内调用大模型的错误数 |
| 模型调用错误率 |
展示所有应用在指定时间段内调用大模型的错误率 |
| Token 用量 |
展示所有应用在指定时间段使用的 Token 用量,可查看 input 和 output |
| Avg Tokens per LLM call |
展示所有应用在指定时间段每次大模型调用平均使用的 Token 用量,可查看 input 和 output |
| 面板 |
说明 |
| 模型调用次数调用趋势图 |
默认展示所有应用模型调用次数调用趋势图;可切换模型调用 QPS;可切换 Avg LLM call per request,表示每次用户请求平均大模型调用次数 |
| 模型调用错误数趋势图 |
默认展示所有应用模型调用错误数趋势图,可切换模型调用错误率趋势图 |
| 模型调用耗时趋势图 |
展示所有应用模型调用耗时趋势图,支持 Avg、p90、p95、p99 耗时 |
| 模型调用首 Token 耗时趋势图 |
展示所有应用模型调用首 Token 耗时趋势图,支持 Avg、p90、p95、p99 耗时 |
| 面板 |
说明 |
| Token 用量趋势 |
展示所有应用在指定时间段使用的 Token 用量趋势,可查看 input 和 output |
| Avg Tokens per LLM call 趋势 |
展示所有应用在指定时间段每次大模型调用平均使用的 Token 用量趋势 |
| 面板 |
说明 |
| 模型调用次数 应用 Top5 |
基于所有应用对大模型的调用,统计大模型调用次数 Top5 的应用,支持切换趋势图显示 |
| 模型调用错误数 应用 Top5 |
基于所有应用对大模型的调用,统计大模型调用错误 Top5 的应用,支持切换趋势图显示 |
| 模型调用平均耗时 应用 Top5 |
基于所有应用对大模型的调用,统计大模型调用平均耗时 Top5 的应用,支持切换趋势图显示 |
| 模型调用首 Token 平均耗时 应用 Top5 |
基于所有应用对大模型的调用,统计大模型调用首 Token 平均耗时 Top5 的应用,支持切换趋势图显示 |
用户分析
用户分析支持从用户维度查看应用及模型调用的相关监控数据,展示所选时间范围内用户维度的整体数据,包括概览指标、趋势图和 Top5 排行;同时支持查看指定用户的明细数据,便于分析用户使用情况。

| 筛选字段 |
说明 |
| 应用 |
下拉多选支持输入;支持包含、不包含操作进行筛选 |
| 用户 ID |
支持输入指定用户 ID 筛选;支持包含、不包含操作进行筛选 |
| 面板 |
说明 |
| 用户数 |
展示所选时间范围内的用户数 |
| 人均 Token 用量 |
展示所选时间范围所有用户 Token 用量/用户数,可查看 Input 和 Output |
| 人均会话数 |
展示所选时间范围所有用户会话数/用户数 |
| 人均 Trace 数 |
展示所选时间范围所有用户 Trace 数/用户数 |
| 人均 Span 数 |
展示所选时间范围所有用户 Span 数/用户数 |
| 人均模型调用次数 |
展示所选时间范围所有用户模型调用次数/用户数 |
| 人均使用时长 |
展示所选时间范围所有用户使用时长/用户数 |
| 面板 |
说明 |
| 用户数&人均 Token 消耗趋势图 |
柱形图展示用户数,折线图展示人均 Token 消耗 |
| 面板 |
说明 |
| 人均 Trace 数趋势图 |
展示所选时间范围内人均 Trace 数随时间变化的趋势 |
| 人均 Span 数趋势图 |
展示所选时间范围内人均 Span 数随时间变化的趋势 |
| 人均模型调用次数趋势图 |
展示所选时间范围内人均模型调用次数随时间变化的趋势 |
| 人均使用时长趋势图 |
展示所选时间范围内人均使用时长随时间变化的趋势 |
| 面板 |
说明 |
| 应用用户数 Top5 |
基于所有用户,统计各应用用户数 Top5 的应用,支持切换趋势图显示 |
| 模型调用用户数 Top5 |
基于所有用户,统计各模型调用用户数 Top5 的模型,支持切换趋势图显示 |
| 用户 Token 用量 Top5 |
基于所有用户,统计 Token 用量 Top5 的用户,支持切换趋势图显示 |
| 用户会话数 Top5 |
基于所有用户,统计会话数 Top5 的用户,支持切换趋势图显示,点击可带用户跳转至用户详情的会话 Tab |
| 用户 Trace 数 Top5 |
基于所有用户,统计 Trace 数 Top5 的用户,支持切换趋势图显示,点击可带用户跳转至用户详情的 Trace Tab |
| 用户 Span 数 Top5 |
基于所有用户,统计 Span 数 Top5 的用户,支持切换趋势图显示,点击可带用户跳转至用户详情的 Span Tab |
| 用户使用时长 Top5 |
基于所有用户,统计使用时长 Top5 的用户,支持切换趋势图显示 |