logo
1

【AppBuilder】零代码构建应用《成语故事伴读》,在workflow编排中使用大模型节点

前言

Workflow,也称为工作流,是百度千帆平台提供的一种基于实际业务场景开发的流水线工具,用于部署模型或应用。
它支持开发者自定义组件并接入API,扩展大模型的应用场景。通过Workflow,开发者可以更加高效、便捷地进行模型开发、部署和迭代。
这里介绍下组件里直接再使用一个大模型的效果。

创建组件

组件信息

创建一个组件名称为《成语故事伴读助手》的组件,名称自然要和对应功能相关,也是应用识别到组件的判断依据之一。
组件描述怎么写?这个也是识别调用组件的关键点,官方也给出明确提示,可以参考自带那些组件是怎么描述的。
请准确描述组件的应用场景,大模型将根据此描述识别并调用该组件
短文本在线合成-精品音库:短文本在线合成组件(TTS)提供高度拟人、流畅自然的语音合成服务,将文本朗读出来,基础音库性价比更高,精品音库听感更逼真。
成语故事伴读助手组件用于输出成语故事信息、成语含义等信息,为转为语音播报提供有基本结构和高质量的文本信息,让读者和听者体验更佳。

开始节点

开始节点的输入参数也是一个重要点。特别是多字段组件而言。
我这里相对比较简单一点,设置了一个query输入字段,用于接收成语字段值。
文本提示:请准确描述该参数所代表的含义,这将帮助大模型更好得理解用户意图

基础节点

  • 大模型节点:调用大语言模型,根据输入参数和提示词生成回复。(相当于又调用了一个小应用)
  • 知识库:根据输入的参数,再选定的知识库中检索相关片段并召回,返回切片列表。(可以自己准备一些知识库资料)
  • API:配置外部API服务,并调用该服务。(可以是自己的服务器,也是可以是第三方接口)
  • 分节器:连接两个下游分支节点。设定的条件成立则运行"如果"分支,不成立则运行"否则"分支。(二选一)
  • 代码:编写代码,处理输入输出变量来生成返回值。(目前是Python代码)

组件节点

可以调用自己创建好的节点,也可以调用官方节点,比如:百度搜索。
上面提到的分节器就可以运用在此处,组件或者节点二选一。

大模型节点

我这里是简单使用了大模型节点,提示词其实就是用了之前创建过的一个成语故事应用的Prompt,
可以直接复制到此处使用,并且能够按输出格式输出内容。

选择模型

推荐使用ERNIE-4.0-8K,当然3.5更加有性价比。看具体要创建什么应用。

多样性

推荐值为 0,数值越高则模型每次输出内容的差异性越大,默认值为0,可调节范围0-1

输入参数

输入给大模型的参数
目前参数类型支持5种,引用、String、Integer、Boolea、Number
如果是引用类型,那么会提示是从那个节点的那个参数引用过来

输出参数

输出参数同样有个描述
输出的类型比较丰富,支持数组类型

提示词

相当于角色指令了
  
  
  
  
  
  
# 角色任务
作为成语讲解助手,你的任务是对成语进行讲解,并且是通俗易懂。
# 工具能力
1. 成语知识库
你需要利用百度搜索等工具,查找和整理丰富的成语知识,包括成语的来源、故事、含义、造句和赏析等。
2. 讲解工具
你需要利用百度搜索等工具,以生动、有趣的语言解释成语的含义和背景。
3.速度能力
在输出内容时,速度稍微快一点,内容不要一点点的出,不能造成卡顿的感觉,用户体验不好
# 要求与限制
1. 准确性
利用百度搜索等工具查找资料时,必须确保信息的准确性,避免误导学生。
2. 互动性
鼓励学生提问和互动,提高学习效果。你也可以利用百度搜索等工具,查找学生可能感兴趣的问题,引导学生进行深入的探讨。
3. 适应性
根据用户的年级和反馈,不断调整你的讲解方式和内容,确保教学内容的难度和趣味性都能适应学生的需求。
# 输出格式
必须严格根据下面格式输出内容,
例如:
## ⭐**XXX**⭐
### 1️⃣**成语拼读:**
### 2️⃣**成语故事:**
### 3️⃣**成语含义:**
### 4️⃣**成语造句:**
### 5️⃣**相近成语:**

结束节点

组件的最终节点,输出组件运行后的最终结果。(需要注意:但不是应用最终的呈现结果)
数据类型和输入参数差不多,这里多了一个引用,输出的结果来源于那个节点的参数值

资源地址

可以查看下自己有那些资源在调用和剩余量,有些是预付费和后付费都有开通的,这个需要自己留一下,后付费是会有存在欠费情况,按量计费。
https://console.bce.baidu.com/ai_apaas/resource

优化布局

这个功能挺好用的,当我们的节点很多的时候,放大放小,拖拽节点后,可能会很乱。
不用担心,点击以下优化布局按钮,瞬间就整整齐齐,漂漂亮亮,赞。
点击以下优化布局,立马就靓仔很多了。

组件调试

可以测试模拟输入值来测试整个节点流程到最后输出的结果,方便测试节点直接的输入和输出值是否正确,确保引用使用的组件稳定有效。
调试组件时,会判断是否存在节点错误
模拟用户输入的文本,点击开始运行
可以看到每个节点的运行状态
最后运行的效果,就会根据我们规定的格式输出,以Markdown的格式输出

整体运行效果

今天的分享就到这里,有没有对workflow组件编排的大模型节点有所了解了呢,一起分享你的开发小经验吧

评论
用户头像