大模型节点
更新时间:2025-03-21
整体概述
大模型节点可调用大语言模型,根据提示词输出结果。
模型配置
大模型配置模板:提供预制的示例模板,快速填写节点配置信息。
模型基础配置:
- 模型选择大模型节点支持选择平台预置模型及用户在千帆ModelBuilder创建的自定义模型(千帆平台精调训练模型+自定义开发或外部下载模型)。你可以参考平台资源大模型服务进行模型的选择和使用。也可以参考模型创建说明直接创建自定义模型——上传场景数据对预置模型进行微调(SFT)或导入自训练大模型,在特定场景下达到极致效果。
- 模型多样性配置 该设置控制模型输出的多样性,会同时改变模型的top_p和temperature参数,数值越高输出内容的差异性越大。推荐设置0.0001,可保证输出的效果稳定。(设置为0可能导致模型响应变慢)

- 模型高级参数配置 大模型节点右侧支持设置模型的高级配置参数,该参数为ERNIE模型的扩展参数,与千帆ModelBuilder模型接口参数对应,可针对不同的模型,配置特定的请求参数和模型返回的响应参数,满足特定场景下对模型作用效果精确控制,以及获取其他返回参数的需求。使用说明

下方展示模型付费状态,付费状态默认关闭,平台优先消耗当前账号下赠送的免费模型资源。开启后,如果你已开通付费模型,免费资源消耗完毕后自动切换到付费资源,保障应用稳定可用,如需开启,请点击【修改配置】按钮前往资源额度页面。

输入:可以引用前序节点的参数,作为输入。此处的输入可以插入提示词中,作为变量。
提示词:编写大模型的提示词,使大模型实现对应功能。通过插入花括号的方式,如 {{input}} ,可以引用对应的参数值。此处也可以在输出定义参数,并在提示词中引用,如 {{output1}},指定大模型将对应信息按照参数的格式输出。
提示词类型:提示词包括系统提示词和用户提示词;
- 系统提示词:
在搭建智能体时,设置的人设与回复逻辑就是系统提示词。它是开发者为大语言模型设定的初始参数和行为准则,在整个会话中持续影响大模型的响应模式。通过编写系统提示词,可以为大模型设定特定的角色定位和回复逻辑。
- 用户提示词: 在与智能体对话时,用户的输入就是用户提示词。它是用户直接向大语言模型提出的具体指令或问题,指导模型执行特定的任务或提供特定的信息。用户提示词的设置应简洁明了,以便模型能够准确捕捉用户的需求。

- 示例:
- 系统提示词:你是一个友好且专业的健康咨询助手,专注于为用户提供基于科学和医学知识的健康建议。在回答用户的问题时,你的回答应该既专业又易于理解,同时保持语言的温和和鼓励性。请确保所有建议都是基于最新的健康指南,并避免提供具体的医疗诊断。
- 用户提示词:我最近总是感到疲劳,这可能是什么原因呢?
-
输出:通过参数输出大模型的结果。支持设置多个输出参数,并在后续节点被直接引用。
设置多输出:设置多个输出参数时,系统会自动解析模型输出转为设置的参数,为了保证效果较好,需要在提示词中指定每个参数的输出内容,并在配置中准确填写参数描述。
默认参数:当选择Deepseek-R1模型时,输出参数新增默认参数reasoning_content,将输出模型在最终答案之前的推理内容。