数据干预 在自主规划Agent中,点击调优按钮,即可进入到应用调优的界面,调优功能支持通过数据干预的形式对应用对话中的问答进行干预,让应用可以输出开发者期望的标准答案。 功能示例 例如在“食品制作小助手应用”中,未经过干预、由应用直接生成的原始问答对为: 这个回答比较通用、冗长,没有明确说明注意事项,如果你希望当用户问
Prompt评估 平台国内首发推出Prompt评估功能,支持用户在线进行Prompt打分及问题诊断,可多条Prompt多场景并行在线评估。 Prompt评估可帮助用户定位Prompt语料的具体问题,并提供修改意见,配合本平台Prompt优化功能,用户可获取高质量Prompt,激发大模型推理潜能。 登录到 本平台 ,在左
创建组件 整体概述 可以通过工作流编排的方式来创建组件,生成的组件可以发布到我的组件中,组件可以用于在应用中被 LLM 大模型 function call 调用。 构建说明 你可以在【个人空间—组件】页面下看到组件列表,在页面右上角点击创建组件即可创建工作流。 组件名称: 设置组件中文名称,组件名称在组件列表页以及应用
模型压缩 量化压缩策略说明 WxAxCx中W、A、C分别代表模型权重(weight)、激活(activation)和键值缓存(kv cache),数字x代表模型压缩后相应部分的比特数。模型压缩过程后,高比特浮点数会映射到低比特量化空间,从而达到降低显存占用、提升推理性能等目的。 量化方法:开源模型量化方式默认Simpl
数据库节点 整体概述 数据库节点支持通过自然语言指令和SQL指令两种方式在工作流中实现数据访问,你可以通过直连数据库和上传数据表来创建数据库,在数据库节点中勾选想要使用的数据库来查询,数据库会返回结构化的数据库查询结果,你可以通过在数据库节点后面加入代码节点或者大模型节点来灵活的使用输出结果。 使用说明 方式一:通过自
API 节点 整体概述 API节点是基础节点类型之一,您可以通过该节点,将已有服务注册为组件,帮助扩展应用能力边界。 比如您有一个可以查询教育信息的接口,通过在API节点中注册接口信息,并发布为组件,就可以在应用配置的【组件】中选择该组件,那么该应用将按照要求查询对应信息。 平台支持接入遵守RESTful架构规范并采用
记忆变量 应用配置中的记忆变量要和节点中的记忆变量节点配合使用。首先在应用配置中的「记忆变量」添加具体的记忆变量,然后通过工作流中的「记忆变量」节点来写入和读取记忆变量的值。 具体操作如下: 「应用配置」中的「记忆变量」添加记忆变量:在「应用配置」中点击「记忆变量」,进行记忆变量的添加。 名称:记忆变量的变量名。 填写
分支器节点 整体概述 分支器节点用于设计工作流内的分支流程,可以连接多个下游节点。当向该节点输入参数时,节点会从上到下依次判断是否符合条件,若设定条件成立则运行对应的条件分支,若均不成立则运行“否则”分支。可通过拖拽分支条件配置面板来设定分支条件的优先级。在每个分支条件中,支持选择判断关系(且/或),以及同时添加多个条
作文润色 概述 对K9作文按照词汇、句子进行润色,优化段落结构,并给出范文参考。该组件为付费功能,具体 计费说明 请参见使用文档。 接口定义 URL https://qianfan.baidubce.com/v2/tools/ai_education/k9_composition_polishing Method PO
模型广场 平台预置了多款大模型供您使用,包括文心一言及业内知名的开源大模型,您可在 模型列表 查看置入的模型,千帆平台推出 千帆 AI 应用开发者中心 ,提供大模型资源、工具与服务支持。 登录到 本平台 ,在左侧功能列中选择 模型广场 ,查看平台预置模型和预置服务的列表。 模型检索 通过模型广场的标签区可检索您所需的模