1.什么是 Palo for Doris AI 可观测

Palo for Doris AI 可观测服务是一项绑定 Palo 集群的托管式 AI 应用运行观测能力。服务以 Langfuse 生态兼容为接入方向，以 Palo（基于 Apache Doris 的实时分析型数据仓库）作为 Trace 分析数据的存储、查询和聚合底座，帮助用户回答以下问题：

• 一次 Agent 请求经过了哪些模型、工具、检索和代码步骤？
• 哪个步骤产生了错误、延迟或异常成本？
• Prompt、模型版本或应用版本变化后，输出质量是否改善？
• 多轮会话中的上下文在哪里发生漂移？
• Token、延迟、错误率和用户反馈如何按应用、用户、模型或业务标签分析？

服务将 AI 应用的执行过程组织为可查询的 Trace 数据，并与 Palo 现有的计算组、权限、运维和数据分析体系衔接。用户无需自行部署，即可从 Palo 集群开始 Agent Trace 观测。

2.核心能力

• LLM/Agent 全链路 Tracing

AI 可观测将一次复杂执行拆分为三个层级：

层级	含义	典型内容
Session（会话）	多轮对话或相关执行的聚合标识。	用户、会话上下文、多个 Trace。
Trace（追踪）	从用户输入到 Agent 输出的一次完整交互。	Trace ID、Agent 名称、环境、状态、总耗时、总 Token。
Observation（执行）	Trace 中的原子步骤，兼容 Span、Generation、Event 等对象。	模型调用、Embedding、RAG 检索、工具调用、普通代码步骤、中间输入输出。

• Prompt 管理

将 Prompt 从 Agent 代码中分离，支持版本、标签、回滚、Playground 实验和与 Trace/评测结果关联。

• 评估与反馈

支持在线或离线评估，并将人工标注、规则评分、布尔/分类/数值/文本评分和 LLM-as-a-Judge 结果沉淀为 Score。

• 数据集与实验

可以从生产 Trace 选取样本形成 Dataset，使用不同 Prompt 或模型版本进行批量实验，再将结果与线上质量、成本和延迟对比。

3.前置条件与注意事项

3.1.前置条件

• 本地已安装 Python 3.9 及以上版本（用于投递可观测数据）。
• 已开通 AI 可观测服务。当前为邀测阶段，请联系技术支持。
• 当前集群状态处于“运行中”，且计算、存储和默认计算组有可用容量。
• 拥有目标集群查看、变更、网络安全组权限。

3.2.注意事项

1. AI 可观测服务与 Palo 集群共享或关联计算、存储和网络资源，Trace 写入和查询会消耗集群资源。
2. 系统创建的 langfuse_ 前缀数据库和观测底表属于服务内部资源，请勿删除、重命名或修改结构。
3. 服务默认使用当前集群的 default 计算组承载观测写入和查询，需确保该计算组可用。
4. 释放 Palo 集群或 AI 可观测服务后，关联的 Langfuse 服务、用户配置和观测数据可能被永久删除，无法恢复。

4.开通 AI 可观测服务

下面介绍如何开启 AI 可观测服务并投递第一条可观测数据，完成以下操作约需 10～15 分钟。

步骤一：进入 AI 可观测

1. 登录 Palo 控制台。
2. 打开目标存算分离集群的详情页。
3. 在左侧导航栏选择 AI 可观测。
4. 在未开通页面单击 创建 AI 可观测服务。

步骤二：确认数据与资源选择

1. 开通页需要确认以下事项：

• Langfuse 观测数据与原有 Palo 数据共享存储资源，请根据 Trace 量预留容量。
• 系统会创建 langfuse_ 前缀的 Palo 数据库和观测底表，禁止手工修改底表结构。
• 服务默认使用 default 计算组。
• 释放 Palo 集群时，Langfuse 服务和观测数据会一并清理。

2. 开通页会根据当前集群资源提供 4CU、8CU、16CU等可选规格的服务计算资源，根据业务选择。
3. 配置计算资源后，点击确认开启，等待约 3~5 分钟，直到服务状态变为运行中。

步骤三：创建用户、组织和项目

1. 在 AI 可观测页面的连接地址区域，获取VPC地址。
2. 在浏览器中访问该地址，按页面提示注册或登录 Langfuse 用户。

3. 创建新的组织New Organization并填写组织名称。
4. 按需邀请成员；无成员邀请时可跳过。
5. 创建新的项目New Project并填写项目名称。
6. 根据页面提示可完成API Keys的获取，以及与 Agent 的绑定指引
7. 按照指示文档完成绑定并发送数据后，在浏览器中访问 Langfuse 页面，在左侧导航栏单击 Tracing，确认可以看到刚才的调用记录。

步骤四：用户管理

1. 可在 Palo AI 可观测页面提供 用户管理：

• 支持以抽屉页方式查看 Langfuse 用户；
• 支持按用户名或邮箱搜索；
• 展示用户状态、创建时间和最近登录时间；
• 对正常用户提供重置密码操作；
• 已停用或状态异常的用户不能直接重置，需检查账号状态或提交工单。

重置密码会使该账号退出已登录页面，用户需使用新密码重新登录。

5.释放服务

1. 用户可在开启 AI 可观测服务后，不再需要使用时，通过集群 AI 可观测服务页面右上角按键释放服务。
2. 确认后，系统将释放所有与 AI 可观测服务关联的资源，并执行以下清理：

• 释放 Langfuse 服务实例及其计算资源；
• 删除当前 Palo 集群中的观测数据库、底表和全部观测数据；
• 删除该服务关联的 Langfuse 用户配置。