功能简介

LLM 调用链分析支持跨应用的多维度调用链检索与分析，您可以查询 Trace 或者 Span，并查看 Trace 详情信息。同时 Span 列表可查看大模型调用链中不同类型的 Span 耗时、以及 Span 的关联信息，例如 Input、Output、Token 消耗等。

Trace 列表

展示所有 Trace 列表，每一行代表一条 Trace。

1. 登录百度智能云控制台->云监控 BCM。
2. 在左侧导航栏点击LLM 应用性能监控->调用链分析->Trace，在顶部选择目标地域。
3. 在查询下拉框输入查询条件，右上方的时间选择器设置需要查询的时间段。

筛选字段	说明
入口应用名称	支持单选。
响应时间	调用链路耗时，支持手动输入。如“200-300”表示筛选响应时间在200ms到300ms之间的调用链路。
Total Tokens	支持手动输入。如“200-300”表示筛选Tokens在200到300之间的调用链路。
用户ID	支持手动输入，单次仅支持单个值查询。
会话ID	支持手动输入，单次仅支持单个值查询。
TraceID	支持手动输入，单次仅支持单个值查询。

Span 列表

展示所有 Span 列表，每一行代表一条 Span

1. 登录百度智能云控制台->云监控 BCM。
   
2. 在左侧导航栏点击LLM 应用性能监控->调用链分析->Span，在顶部选择目标地域。
   
3. 页面下方展示所有调用链的 Span 明细列表，每一行对应一条 Span。切换 LLM Span 只查看 Gen_ai 类型为 LLM 的 Span

筛选字段	说明
应用名称	支持单选。
接口	应用调用的接口名称，支持手动输入，单次仅支持单个值查询。
Span类型	支持单选。支持LLM、Workflow、Agent、Tool、Task、Embedding、Rerank七种类型。
响应时间	调用链路耗时，支持手动输入。如“200-300”表示筛选响应时间在200ms到300ms之间的调用链路。
模型名称	支持单选，支持根据大模型名称对调用进行筛选。
状态	表示该调用是否正确。当返回exception异常、span.statusCode设置为Error，或span.attributes.http.response.status_code >= 400时，为错误状态。
TraceID	支持手动输入，单次仅支持单个值查询。
高级查询	支持查询调用的附加属性。输入查询条件时，需要加上“attributes.”的前缀，例如查询条件输入“attributes.has_exception”，查询值输入“true”，表示筛选存在exception的调用。

聚合分析

聚合分析支持对调用链数据按不同维度进行多级汇总统计，帮助您从整体视角统计指标数据、洞察调用情况和异常分布情况。无需逐条排查 Span 明细。 点击 Span 列表下的聚合分析 Tab，系统默认以接口名称作为聚合维度，按请求数降序生成聚合统计列表。

聚合维度选择

点击聚合维度下拉框，选择需要聚合的维度；配置完成后点击页面任意一侧即可生成聚合结果，下方分类列表随之更新；目前支持的聚合维度如下：

聚合维度	说明
接口名称	应用调用的接口名称，默认聚合维度。
Span类型	调用链中Span的类型。
用户	发起调用的用户标识。
会话	用户发起调用的会话标识。
应用名称	调用链所属的应用名称。
实例	应用部署的实例地址。
模型名称	调用的大模型名称。
Genai类型	调用的大模型Genai类型。

说明：

• 聚合分析支持最多选择 3 个维度。
• 先选的维度优先级最高，后续维度依次在上一层聚合结果内进一步分类。
• 点击已选维度标签右侧的“x”，或在下拉框中点击已选中的维度，可删除该聚合维度，当仅剩 1 个聚合维度时不可删除。

聚合分析列表

聚合统计列表展示各聚合维度分组下的统计结果，字段说明如下：

字段	说明
聚合维度	所选聚合维度对应的取值，默认接口名称，多维度分组时按先后次序从后到前依次排列。
请求数	所选时间范围内该分组的调用总次数。
错误数	所选时间范围内该分组的错误调用总次数。
平均耗时	该分组调用耗时的平均值，单位为毫秒（ms）。
P90/P95/P99耗时	该分组调用耗时的对应分位值，单位为毫秒（ms）。
Token用量	该分组调用消耗的Token总量，为LLM场景额外增加的指标。

说明：默认按请求数降序排序，支持切换为错误数、平均耗时、Token用量、P90/P95/P99耗时等字段排序，也可切换字段的排序规则。

聚合分析列表展开

点击列表中某一行即可展开查看该维度分组下的 Span 列表，展开页展示的字段与 Span 初始页保持一致，通过内部滚动加载更多 Span 数据。

链路详情

1. 在页面上方查询框输入查询条件，右上方的时间选择器设置需要查询的时间段。
2. 点击 Trace 列表或者 Span 列表的 TraceID，即可查看链路详情页面。

模块1

• 展示调用链的 Input、Output 信息。

模块2

• 该区域中的每一行代表一条 Span 数据，并展示父级 Span 和子级 Span 之间的层级关系。

模块3

• 附加信息：附加信息包含 Info 及 Span 的属性（Attributes）和事件（Events）三种信息。
• 指标：展示与 Span 关联的指标，包含请求数、错误数、耗时等。
• 日志：如您为应用关联了日志服务，点击可快速跳转至应用详情的日志分析页面，查看当前TraceId 对应的业务日志。
• 异常：当 Span 记录了异常信息时，此页面会展示具体的异常信息。