推理日志投递与解绑
1、前置操作
开通BLS服务
若您之前未开通过BLS,您可以通过BLS 开通日志服务 注:BLS需要按照地域开通,请确保已经开通需要投递日志集的地域
日志索引配置
千帆开启日志投递后,会默认帮用户创建如下索引配置字段:
索引名称 | 含义 |
---|---|
requestid | 请求id |
ip | 请求客户端ip地址 |
timestamp | as侧收到请求的时间戳 |
asid | as侧请求唯一标识 |
appid | 千帆应用接入app的id |
account_id | 用户id |
account_type | 账号类型,passport/uc |
disposal | 安全模块的处置方式, 0-正常回复, 1-会话终止,且有输出,* 2-会话直接无输出 |
url | 请求服务的endpoint |
model | API name, v1接口为空 v2接口有参数 |
appid | 千帆应用接入app的id |
request | 请求信息 |
response | 返回信息 |
下面是一个完整示例日志,可以按照完整日志的字段自行增加索引
requestid: d866a36c5b56a365cd8316db9b03d78a1001658 ip: 10.220.107.124 timestamp: 1725947457 asid: as-zc7ywt14c5 appid: 41870942 project_id: account_id: 2735845434 account_type: passport disposal: 0 url: /rpc/v1/wenxinworkshop/chat/completions_pro model: request: {"header":null,"body":{"enable_citation":false,"enable_rethink":false,"enable_state":false,"enable_trace":false,"enable_tts":false,"enable_vilg":false,"extra_parameters":{},"messages":[{"content":"\n你是一个专业的视觉设计师,x","role":"user"}],"model":"","source":0,"stream":false,"temperature":1e-9,"top_p":0,"user_id":""}} response: {"status":200,"header":{},"body":{"id":"as-zc7ywt14c5","object":"chat.completion","created":1725947458,"result":"```json\n{\"objects\": []}\n```","usage":{"prompt_tokens":1036,"completion_tokens":10,"total_tokens":1046}}}
若您需要自行增加额外索引,可以通过BLS索引管理自行添加索引配置,也可以自行开关索引。
注:新增索引或开关索引,仅支持对新写入的数据进行日志原文索引查询
更多操作指南可以参考BLS文档:BLS日志服务
2、 千帆侧操作指南
千帆支持将按照服务粒度投递推理日志到BLS,支持投递日志到指定地域及指定日志组。
预置服务
开启日志投递
step1: 选择需要绑定日志集
进入到预置服务列表,找到需要投递日志的预置服务,点击日志投递,投递该服务的推理服务日志
step2: 选择需要投递的地域、日志组和日志集
千帆默认会创建名为 qianfaninference_logs{用户cloudid} 的日志集,您也可以选择将日志投递到已有的日志集。
step3: 点击确认按钮,即可投递
查看日志投递信息
若显示日志解绑,则代表该服务已经开始日志投递,鼠标hover日志解绑链接,则会显示bls日志信息及日志集链接。点击链接跳转后,需要在bls页面手动切换地域至日志集投递地域。
日志解绑
点击日志解绑按钮,即可停止推理日志投递,解绑后的服务支持重新绑定新日志集
我的服务
创建定制服务时投递日志
step1:完成基本信息、付费信息、资源信息填写后,点击开启日志投递按钮
step2:选择需要投递的地域、日志组和日志集
千帆默认会创建名为 qianfaninference_logs{用户cloudid} 的日志集,您也可以选择将日志投递到已有的日志集。
step3:点击确定按钮,推理日志即可投递至指定BLS日志集
为已创建的定制服务投递日志
step1:在我的服务列表页,找到需要投递日志的定制服务,点击日志投递,开启日志投递 step2:选择需要投递的地域、日志组和日志集 step3:点击确定按钮,推理日志即可投递至指定BLS日志集
查看日志投递信息
在我的服务列表页,点击详情,即可查看bls日志集信息及日志集链接。点击链接跳转后,需要在bls页面手动切换地域至日志集投递地域。
日志解绑
点击日志解绑按钮,即可停止推理日志投递,解绑后的服务支持重新绑定新日志集