【AppBuilder】零代码构建应用《成语故事伴读》,在workflow编排中使用大模型节点
AI原生应用开发/技术交流
- Prompt
5月30日981看过
前言
Workflow,也称为工作流,是百度千帆平台提供的一种基于实际业务场景开发的流水线工具,用于部署模型或应用。
它支持开发者自定义组件并接入API,扩展大模型的应用场景。通过Workflow,开发者可以更加高效、便捷地进行模型开发、部署和迭代。
这里介绍下组件里直接再使用一个大模型的效果。
它支持开发者自定义组件并接入API,扩展大模型的应用场景。通过Workflow,开发者可以更加高效、便捷地进行模型开发、部署和迭代。
这里介绍下组件里直接再使用一个大模型的效果。
创建组件
组件信息
创建一个组件名称为《成语故事伴读助手》的组件,名称自然要和对应功能相关,也是应用识别到组件的判断依据之一。
组件描述怎么写?这个也是识别调用组件的关键点,官方也给出明确提示,可以参考自带那些组件是怎么描述的。
组件描述怎么写?这个也是识别调用组件的关键点,官方也给出明确提示,可以参考自带那些组件是怎么描述的。
请准确描述组件的应用场景,大模型将根据此描述识别并调用该组件
![](https://bce.bdstatic.com/community/uploads/community_e51f134.png)
短文本在线合成-精品音库:短文本在线合成组件(TTS)提供高度拟人、流畅自然的语音合成服务,将文本朗读出来,基础音库性价比更高,精品音库听感更逼真。
![](https://bce.bdstatic.com/community/uploads/community_c77c1e4.png)
成语故事伴读助手组件用于输出成语故事信息、成语含义等信息,为转为语音播报提供有基本结构和高质量的文本信息,让读者和听者体验更佳。
开始节点
开始节点的输入参数也是一个重要点。特别是多字段组件而言。
我这里相对比较简单一点,设置了一个query输入字段,用于接收成语字段值。
我这里相对比较简单一点,设置了一个query输入字段,用于接收成语字段值。
文本提示:请准确描述该参数所代表的含义,这将帮助大模型更好得理解用户意图
![](https://bce.bdstatic.com/community/uploads/community_60152e2.png)
基础节点
-
大模型节点:调用大语言模型,根据输入参数和提示词生成回复。(相当于又调用了一个小应用)
-
知识库:根据输入的参数,再选定的知识库中检索相关片段并召回,返回切片列表。(可以自己准备一些知识库资料)
-
API:配置外部API服务,并调用该服务。(可以是自己的服务器,也是可以是第三方接口)
-
分节器:连接两个下游分支节点。设定的条件成立则运行"如果"分支,不成立则运行"否则"分支。(二选一)
-
代码:编写代码,处理输入输出变量来生成返回值。(目前是Python代码)
![](https://bce.bdstatic.com/community/uploads/community_d41b391.png)
组件节点
可以调用自己创建好的节点,也可以调用官方节点,比如:百度搜索。
上面提到的分节器就可以运用在此处,组件或者节点二选一。
上面提到的分节器就可以运用在此处,组件或者节点二选一。
![](https://bce.bdstatic.com/community/uploads/community_a204a76.png)
大模型节点
我这里是简单使用了大模型节点,提示词其实就是用了之前创建过的一个成语故事应用的Prompt,
可以直接复制到此处使用,并且能够按输出格式输出内容。
可以直接复制到此处使用,并且能够按输出格式输出内容。
选择模型
推荐使用ERNIE-4.0-8K,当然3.5更加有性价比。看具体要创建什么应用。
![](https://bce.bdstatic.com/community/uploads/community_a4c48fe.png)
多样性
推荐值为 0,数值越高则模型每次输出内容的差异性越大,默认值为0,可调节范围0-1
输入参数
输入给大模型的参数
![](https://bce.bdstatic.com/community/uploads/community_282a6be.png)
目前参数类型支持5种,引用、String、Integer、Boolea、Number
![](https://bce.bdstatic.com/community/uploads/community_6cc2d5a.png)
如果是引用类型,那么会提示是从那个节点的那个参数引用过来
![](https://bce.bdstatic.com/community/uploads/community_977810d.png)
输出参数
输出参数同样有个描述
![](https://bce.bdstatic.com/community/uploads/community_08145e9.png)
输出的类型比较丰富,支持数组类型
![](https://bce.bdstatic.com/community/uploads/community_5419cf4.png)
提示词
相当于角色指令了
# 角色任务作为成语讲解助手,你的任务是对成语进行讲解,并且是通俗易懂。# 工具能力1. 成语知识库你需要利用百度搜索等工具,查找和整理丰富的成语知识,包括成语的来源、故事、含义、造句和赏析等。2. 讲解工具你需要利用百度搜索等工具,以生动、有趣的语言解释成语的含义和背景。3.速度能力在输出内容时,速度稍微快一点,内容不要一点点的出,不能造成卡顿的感觉,用户体验不好# 要求与限制1. 准确性利用百度搜索等工具查找资料时,必须确保信息的准确性,避免误导学生。2. 互动性鼓励学生提问和互动,提高学习效果。你也可以利用百度搜索等工具,查找学生可能感兴趣的问题,引导学生进行深入的探讨。3. 适应性根据用户的年级和反馈,不断调整你的讲解方式和内容,确保教学内容的难度和趣味性都能适应学生的需求。# 输出格式必须严格根据下面格式输出内容,例如:## ⭐**XXX**⭐### 1️⃣**成语拼读:**### 2️⃣**成语故事:**### 3️⃣**成语含义:**### 4️⃣**成语造句:**### 5️⃣**相近成语:**
结束节点
组件的最终节点,输出组件运行后的最终结果。(需要注意:但不是应用最终的呈现结果)
![](https://bce.bdstatic.com/community/uploads/community_bd7c5b7.png)
数据类型和输入参数差不多,这里多了一个引用,输出的结果来源于那个节点的参数值
![](https://bce.bdstatic.com/community/uploads/community_8bf30d2.png)
资源地址
可以查看下自己有那些资源在调用和剩余量,有些是预付费和后付费都有开通的,这个需要自己留一下,后付费是会有存在欠费情况,按量计费。
https://console.bce.baidu.com/ai_apaas/resource
https://console.bce.baidu.com/ai_apaas/resource
![](https://bce.bdstatic.com/community/uploads/community_25af126.png)
优化布局
这个功能挺好用的,当我们的节点很多的时候,放大放小,拖拽节点后,可能会很乱。
不用担心,点击以下优化布局按钮,瞬间就整整齐齐,漂漂亮亮,赞。
不用担心,点击以下优化布局按钮,瞬间就整整齐齐,漂漂亮亮,赞。
![](https://bce.bdstatic.com/community/uploads/community_4606ff9.png)
点击以下优化布局,立马就靓仔很多了。
![](https://bce.bdstatic.com/community/uploads/community_c9c6aa0.png)
组件调试
可以测试模拟输入值来测试整个节点流程到最后输出的结果,方便测试节点直接的输入和输出值是否正确,确保引用使用的组件稳定有效。
![](https://bce.bdstatic.com/community/uploads/community_f29d9e9.png)
调试组件时,会判断是否存在节点错误
![](https://bce.bdstatic.com/community/uploads/community_c3507d4.png)
模拟用户输入的文本,点击开始运行
![](https://bce.bdstatic.com/community/uploads/community_b5c80f6.png)
可以看到每个节点的运行状态
![](https://bce.bdstatic.com/community/uploads/community_dfbef59.png)
最后运行的效果,就会根据我们规定的格式输出,以Markdown的格式输出
![](https://bce.bdstatic.com/community/uploads/community_ab8379e.png)
整体运行效果
![](https://bce.bdstatic.com/community/uploads/community_211d858.png)
![](https://bce.bdstatic.com/community/uploads/community_28d738e.png)
今天的分享就到这里,有没有对workflow组件编排的大模型节点有所了解了呢,一起分享你的开发小经验吧
评论![用户头像](https://bce.bdstatic.com/wenxin-community/images/topic/avatar_default.png)
![用户头像](https://bce.bdstatic.com/wenxin-community/images/topic/avatar_default.png)