规则干预
更新时间:2025-07-03
在工作流Agent中,点击调优按钮,即可进入到应用调优的界面,调优功能支持通过规则干预的形式对应用对话中的问答进行干预,让应用可以输出开发者期望的标准答案。
功能示例
在“金融agent应用”中,如果用户提问了高风险内容,模型可能被诱导回复不良信息,如:
这个回答可能涉及法律风险,如果你希望模型可以自动识别用户提问,模型思考和回复过程中的关键词并按照规定的标准答案回复,就可以开启规则干预功能,在调优界面手动上传标准答案,作为干预数据:
即可实现对回答的干预,让应用可以输出预设的标准答案。
设置界面
【调优-规则干预】界面中支持干预规则的创建、编辑和删除等处理方式,通过维护和调整干预数据,你可以实现应用对话效果的调优。干预规则以关键词和标准回答的形式储存,关键词对应对话中终端用户的输入,模型思考及模型输出。
规则干预开启后,当⽤户问题或模型输出匹配关键词时,会⾃动调取标准回答答案输出,不再做其他分析,在【配置-预览与调试】界面可以测试数据干预的干预效果。
编辑干预规则
在规则启用后,您仍然可以点击编辑按钮对规则名词,触发条件,关键词固定回答等内容进行编辑。
数据干预敬请期待...