应用回复
更新时间:2024-09-10
【应用回复设置】支持配置组件或知识库内容直接作为应用的最终回复,开启后该功能后,当思考模型命中该组件或知识库后,将不再使用大模型进行二次总结,会直接输出组件输出或知识库切片。请注意,该功能同样会影响思考轮数,当命中该组件或知识库后,也将不会继续思考。
组件作为应用回复
1. 适用场景
- 期望应用回复能够严格按照工作流组件规范的格式和内容输出:通过工作流创建了自定义组件后,已经规范了组件的输出格式,将组件添加到应用中后,希望能够延续组件的输出规范作为应用回复,便于后续二次开发和应用调用。
- 期望减少应用的大模型调用从而缩短端到端耗时:组件输出结果已经满足业务诉求,不需要大模型做总结后回复,可以减少应用端到端耗时以及tokens消耗。
- 期望应用回复能够以结构化JSON格式返回:在应用api和SDK调用过程中,便于解析应用回复字段,便于二次开发和应用集成。
2. 功能描述
- 应用配置页,点击【应用回复设置】,请注意,该功能使用请提前添加组件或知识库。
-
目前支持作为应用回复的组件如下:
- 官方组件:百度搜索总结、相似问生成、风格转写、风格写作、文生图、必应图片搜索、天气查询、网页内容总结、周公解梦大师、彩票开奖结果、百度小说、长文档内容理解
- 自定义组件:全部已发布的自定义组件
- 第三方组件:其他开发者发布到组件广场的组件
-
特殊情况:
- 【百度搜索】组件不可作为终止节点
- 含有【百度搜索】组件节点的自定义组件不可作为终止节点
- 若有诉求,建议使用【百度搜索总结】组件,该组件兼容【百度搜索】组件的基本能力,并新增大模型总结后的text输出变量,支持配置模型及prompt。
- 组件回复模式支持【按模板配置格式回复】和【按原始JSON回复】。 1. 如果选择【按模板配置格式回复】,可以在组件输出变量的前后进行固定话术配置,适用于智能客服等场景。 2. 如果选择【按原始JSON回复】,将按照组件的输出变量进行原始输出,适用于API和SDK二次开发应用的场景。
注意:
- 如果选择【按模板配置格式回复】,输出内容将是text文本格式,在AppBuilder各分发渠道的前端渲染上,暂不支持多模态渲染
- 若有诉求,可以使用MD语法在模板中输入,如下图所示
-
开启终止节点后,可能会对多轮效果有影响:
- 如果选择【按模板配置格式回复】,对多轮对话效果影响不大,大模型可以理解上下文内容。
- 如果选择【按原始JSON回复】,则建议您将模型配置中的「参考对话轮数」更改为1,减少JSON格式对多轮对话的效果影响。
知识库作为应用回复
1. 适用场景:
- 严肃回复场景:需要应用严格按切片内容回复,不需要大模型改动切片内容。
- 通过API和SDK获取知识库检索结果:仅需要使用知识库检索结果以及其中的具体字段,不需要大模型总结。
2. 功能描述
- 添加知识库后,点击顶部 【应用回复设置】,开启【组件/知识库结论可直接作为回复】,添加知识库作为 【回复节点】 。
- 知识库回复模式支持【按固定模版回复】和【按原始 JSON 回复】:
- 按固定模版回复:答复时,应用将按照固定排版,展示检索到的切片内容。调试界面可以通过点击标题进入切片详情页面。分享页面不支持通过标题跳转。
- 按原始JSON回复:答复时,应用以JSON格式返回切片内容。适用于API和SDK二次开发应用的场景