百度百舸面向百度天池超节点的大模型推理引擎优化，持续降低昆仑芯 XPU 的 token 成本 | 百度智能云
本文将深入拆解百度百舸在超节点部署方案设计与软件优化方面的技术实践，聚焦推理引擎策略、核心算子调优、高效通信调度等关键维度，全面揭示软硬协同如何释放昆仑芯超节点的澎湃算力的底层逻辑与工程密码。 2.百度天池超节点部署方案 百度天池超节点将 32 张昆仑芯 XPU 全互联为更大的 Scale-up 域。
工作流组件：如何用知识库节点和API节点搭建个人减脂小助手 - 百度千帆·大模型服务及Agent开发平台
本文示例配置如下： 按照下图所示顺序，依次添加开始节点、大模型节点、分支器节点、代码节点、API节点、知识库节点、结束节点。 5.连接各节点后，依次为节点配置输入输出参数。 步骤二：配置工作流 本文示例配置参数如下表所示。 节点名称 功能 参数配置 配置示例 配置说明 开始 组件运行的起点。定义此组件所需的输入参数。在本次配置中，采用默认参数。
大模型节点 - 百度千帆·大模型服务及Agent开发平台
设置为0可能导致模型响应变慢） 模型检索增强配置 选择ERNIE-3.5和ERNIE-4.0系列模型时，可以配置是否开启检索增强。开启时，会根据用户query动态触发实时搜索，提升答案准确性和时效性。触发搜索会产生额外的tokens消耗，并使耗时变长。
大模型节点 - 百度千帆·大模型服务及Agent开发平台
提示词类型 ：提示词包括系统提示词和用户提示词； 系统提示词 ： 在搭建智能体时，设置的 人设与回复逻辑 就是系统提示词。它是开发者为大语言模型设定的初始参数和行为准则，在整个会话中持续影响大模型的响应模式。通过编写系统提示词，可以为大模型设定特定的角色定位和回复逻辑。 用户提示词 ： 在与智能体对话时，用户的输入就是用户提示词。
知识库节点 - 百度千帆·大模型服务及Agent开发平台
知识库节点 整体概述 知识库节点支持根据输入的query，在选定的知识库中检索相关片段并召回，返回切片列表。你可以上传文件并建立知识库，在知识库节点中勾选想要使用的知识库进行检索。
开始节点 - 百度千帆·大模型服务及Agent开发平台
开始节点 整体概述 节点是千帆平台工作流编排的基础功能单元。通过连接并配置不同的节点，可以灵活且稳定的实现业务流程编排。 创建画布后，可以通过底部菜单，点击 “节点”，并拖动所需要的节点到画布指定位置。 点击画布中的节点，画布右侧会弹出的编辑面板。通过编辑面板可以配置每个节点的参数信息和功能。 开始节点 开始节点是工作流运行的起点。在进入画布后，画布中会包含一个开始节点。
添加已有节点 - 广目混合云运营管理平台BHCMP | 百度智能云文档
配置项 配置项说明 集群外 节点来源 当前示例选择“集群外”，可选择更改为集群内。 节点类型 可选择节点组配置的服务器类型，如云服务器BCC，弹性裸金属服务器EBC。 节点选择 选择要加入节点组的服务器实例，支持多选。 已选节点 支持为已选择的节点配置重装操作系统或直接加入集群。 磁盘挂载 支持将服务器已绑定的数据盘设备进行初始化，支持自定义文件目录进行挂载，用于将容器和镜像数据存储在数据盘。
智能体节点 - 百度千帆·大模型服务及Agent开发平台
则该智能体节点输出该结束节点的输出参数以及ruleIntervention（敏感词干预输出的固定话术）（string）；当结束节点回复模式是按模板配置格式返回文本时，则该智能体节点输出该结束节点的输出文本，名称为answer（智能体回复文本）（string），以及ruleIntervention（敏感词干预输出的固定话术）（string）
循环节点 - 百度千帆·大模型服务及Agent开发平台
例如，在循环过程中，若某次迭代的结果满足预设的终止条件（如达到目标阈值、出现特定事件或满足特定逻辑判断），则触发跳出循环节点，结束循环流程。 跳出循环节点只能添加在循环节点中使用，无需连接后续节点，也不用连接到继续循环。
知识库节点 - 百度千帆·大模型服务及Agent开发平台
知识库节点 整体概述 知识库节点支持根据输入的query，在选定的知识库中检索相关片段并召回，返回切片列表。你可以上传文件并建立知识库，在知识库节点中勾选想要使用的知识库进行检索。
