ERNIE系统记忆机制实践教程
大模型系统记忆能力介绍
当我们使用大模型能力去重构或赋能已有的产品时，或者使用大模型能力进行产品创新时，期望大模型具备支撑个性化产品形态、满足终端用户个性化需求的能力，而记忆机制就是在使用大模型满足"个性化"需求的完整的一套解决方案。记忆机制可以解决包括但不限于以下几类痛点问题：
- 刚刚聊完的东西，新建了一个会话后，模型就不记得、不知道了...
- 昨天和模型聊完之后，今天再聊，模型不记得自己的角色以及自己之前说过什么了...
- 客户在定制一个角色Bot的时候，角色的背景信息太多了，直接拼接在query上信息太多占用token数...
针对上述痛点问题，我们开放了大模型的系统记忆能力。系统记忆存储了Bot的人设，即Bot对自己的认知；
| 系统记忆（system memory） | Bot 的长期记忆 | Bot维度的相对稳定的、比较重要的信息会作为bot的长期记忆进行管理，在实际使用时会按需进行提取并使用，例如：当定制虚拟角色的Bot时，Bot的记忆可以是对应角色的经历、所在世界观的设定等角色小传信息当定制订单机器人Bot时，Bot的记忆可以是菜单、饮品单等信息 |
|---|
系统记忆的应用场景
- 多角色管理：在多角色对话应用中，系统记忆可以帮助每个Bot维护和发展其独特的人设和故事线。
- 信息更新：在需要频繁更新信息的应用中，系统记忆可以存储最新的数据和信息，确保对话内容的时效性。
- 复杂查询处理：对于包含大量专业知识或细节的查询，系统记忆可以提供必要的背景信息，帮助模型生成准确的回答。
记忆内容管理
API接口列表：
系统记忆API-创建系统记忆：用于创建每个Bot的独特的人设和故事线。
系统记忆API-查询系统记忆列表：用于查找所创建的各个Bot记忆的列表。
系统记忆API-删除系统记忆：用于删除某个Bot的记忆（全部删除）。
系统记忆API-查询一言系统记忆：用于查找所指定的某个Bot的详细记忆内容（包含以问答对形式存储的具体记忆条目）
系统记忆API-更新一言系统记忆：用于覆盖更新所指定的某个Bot的具体记忆内容（问答对的形式）。
记忆机制调用
- 系统记忆机制的推理应用目前仅支持ERNIE系列的模型服务（不含精调模型）
- 通过在推理接口的请求参数中传入system_id来实现指定系统人设记忆。
支持的模型范围：
| 模型 | 介绍 |
|---|---|
| ERNIE-4.0-8K | 百度自研的旗舰级超大规模⼤语⾔模型，相较ERNIE 3.5实现了模型能力全面升级，广泛适用于各领域复杂任务场景；支持自动对接百度搜索插件，保障问答信息时效。 百度文心系列中效果最强大的⼤语⾔模型，理解、生成、逻辑、记忆能力达到业界顶尖水平。 |
| ERNIE-4.0-8K-Preview | 百度自研的旗舰级超大规模⼤语⾔模型，相较ERNIE 3.5实现了模型能力全面升级，广泛适用于各领域复杂任务场景；支持自动对接百度搜索插件，保障问答信息时效。 |
| ERNIE-4.0-8K-Preview-0518 | 百度自研的旗舰级超大规模⼤语⾔模型，相比ERNIE-4.0-8K能力全面提升，其中角色扮演能力和指令遵循能力提升较大；相较ERNIE 3.5实现了模型能力全面升级，广泛适用于各领域复杂任务场景；支持自动对接百度搜索插件，保障问答信息时效。 |
| Ernie-4.0-8K-0329 | 百度自研的旗舰级超大规模⼤语⾔模型，相较ERNIE 3.5实现了模型能力全面升级，广泛适用于各领域复杂任务场景；百度文心系列中效果最强大的⼤语⾔模型，理解、生成、逻辑、记忆能力达到业界顶尖水平。此版本是2024年3月29号更新发布的版本，在模型效果上进一步提升。 |
| ERNIE-4.0-8K-0104 | 百度自研的旗舰级超大规模⼤语⾔模型，相较ERNIE 3.5实现了模型能力全面升级，广泛适用于各领域复杂任务场景；支持自动对接百度搜索插件，保障问答信息时效。百度文心系列中效果最强大的⼤语⾔模型，理解、生成、逻辑、记忆能力达到业界顶尖水平。此版本是2024年1月4号更新发布的版本，在模型效果上进一步提升。 |
| ERNIE-3.5-8K | 百度自研的旗舰级大规模⼤语⾔模型，覆盖海量中英文语料，具有强大的通用能力，可满足绝大部分对话问答、创作生成、插件应用场景要求；支持自动对接百度搜索插件，保障问答信息时效。 |
| ERNIE-3.5-8K-0205 | 百度自研的旗舰级大规模⼤语⾔模型，覆盖海量中英文语料，具有强大的通用能力，可满足绝大部分对话问答、创作生成、插件应用场景要求；支持自动对接百度搜索插件，保障问答信息时效。逻辑推理能力显著提升，可更好处理复杂指令。 |
| ERNIE-3.5-8K-1222 | 百度自研的旗舰级大规模⼤语⾔模型，覆盖海量中英文语料，具有强大的通用能力，可满足绝大部分对话问答、创作生成、插件应用场景要求；支持自动对接百度搜索插件，保障问答信息时效。支持5K输入+2K输出。 |
| ERNIE-3.5-4K-0205 | 百度自研的旗舰级大规模⼤语⾔模型，覆盖海量中英文语料，具有强大的通用能力，可满足绝大部分对话问答、创作生成、插件应用场景要求；支持自动对接百度搜索插件，保障问答信息时效。逻辑推理能力显著提升，可更好处理复杂指令。 |
| ERNIE-3.5-8K-Preview | 百度自研的旗舰级大规模⼤语⾔模型，覆盖海量中英文语料，具有强大的通用能力，可满足绝大部分对话问答、创作生成、插件应用场景要求；支持自动对接百度搜索插件，保障问答信息时效。 |
| ERNIE-3.5-8K-0329 | 百度自研的旗舰级大规模⼤语⾔模型，覆盖海量中英文语料，具有强大的通用能力，可满足绝大部分对话问答、创作生成、插件应用场景要求；支持自动对接百度搜索插件，保障问答信息时效。 |
| ERNIE-3.5-128K | ERNIE 3.5是百度自研的旗舰级大规模⼤语⾔模型，覆盖海量中英文语料，具有强大的通用能力，可满足绝大部分对话问答、创作生成、插件应用场景要求；支持自动对接百度搜索插件，保障问答信息时效。ERNIE-3.5-128K是模型的一个版本，2024年5月16日发布，提升上下文窗口长度至128K。 |
最佳实践
"度小茶"饮品店智能客服的系统记忆应用
以下，我们以"度小茶"饮品店为例，展开关于系统记忆能力的应用：
度小茶是一家现代时尚的饮品店，以其独特的茶饮文化和创新的饮品配方在年轻消费者中广受欢迎。店内提供的饮品种类丰富多样，从传统的经典茶饮到融合现代风味的创意饮品，每一款都经过精心调配，旨在为顾客带来层次丰富、口感独特的饮用体验。度小茶注重品质和健康，选用优质茶叶和新鲜水果作为原料，结合现代饮品工艺，创造出既符合传统茶饮精髓又迎合现代口味的饮品。店内环境温馨舒适，设计融合了现代简约与自然元素，为顾客提供了一个放松身心、享受悠闲时光的理想场所。度小茶饮品店的智能客服/点单机器人，正是为了进一步提升顾客体验而设计。通过系统记忆能力，智能客服能够更好地理解顾客的个性化需求，提供贴心的服务，让每一位顾客都能感受到度小茶品牌的温暖和关怀。
在"度小茶"饮品店的智能客服/点单机器人中，系统记忆能力的引入是为了增强机器人对品牌特色和服务的理解，以及提供更加精准的顾客服务。以下是具体的应用场景：
- 品牌特色记忆：智能客服通过系统记忆存储度小茶的品牌理念、历史和文化，能够在与顾客的互动中传达品牌价值。
- 菜单管理：系统记忆用于维护饮品菜单的详细信息，包括每种饮品的成分、口味描述、推荐搭配等，帮助机器人为顾客提供详尽的菜单介绍。
- 特色推荐：智能客服可以记住度小茶的季节性限定饮品或促销活动，并在适当的时机向顾客进行推荐。
- 服务优化：通过分析顾客的点单历史和反馈，系统记忆帮助智能客服识别服务改进的机会，提升顾客满意度。
- 人设一致性：智能客服根据度小茶的品牌调性设定一个或多个人设，系统记忆确保在与顾客的每次互动中，机器人的表现与其人设保持一致。
通过这些应用，度小茶饮品店的智能客服/点单机器人能够更加深入地理解顾客需求，提供个性化和高质量的服务，同时保持品牌形象的一致性和连贯性。
1. 获取鉴权认证
以下在完成系统记忆机制的实践中，我们使用Postman环境进行，具体鉴权步骤如下：
这里以在Postman中调用创建系统记忆接口为例，展示在Postman中完成鉴权的过程
- 打开Postman。
- 参考Postman脚本中的教程，在"Environments"选项卡中配置环境变量。
- 创建一个新的POST请求，将环境选择为上一步所创建的环境。
- 在URL字段中输入创建系统记忆接口的Host，即：
https://qianfan.baidubce.com/v2/memory，请求方式设置为POST。 - 在“Authorization”选项卡下，设置
Auth Type为No Auth。 - 在“Headers”选项卡下，设置
Content-Type为application/json，Authorization和x-bce-date字段任意。 - 在“Scripts”选项卡下的"Pre-request"处，导入对应的Postman脚本。
2. 创建系统记忆
接口文档：系统记忆API-创建系统记忆：用于创建每个Bot的独特的人设和故事线。
实践案例
我们可以通过此接口创建机器人的基础人设：
以下是针对度小茶智能客服/点单机器人的系统记忆创建请求示例的Body内容，其中description字段反映度小茶智能客服的人设：
{
"appId": "69976792",
"description": "度小茶智能客服是度小茶饮品店的虚拟形象代表，拥有丰富的饮品知识，能够提供友好、专业的服务。它以顾客为中心，能够根据顾客的喜好和需求推荐适合的饮品，并解答有关度小茶品牌和产品的任何问题。"
}在这个示例中，appId是您的千帆应用ID，后续在调用推理服务时需要使用与此相同appId的应用，以确保记忆生效。
而description提供了度小茶智能客服的人设描述，这将帮助构建智能客服的角色，并在与顾客的互动中体现出来。
得到的响应字段的Body内容如下。表明该Bot人设记忆创建成功。
{
"requestId": "461926e1-59d1-43a1-a0bd-86c8481bf10f",
"result": "sm-e69z3btbrwcc0thb"
}3. 更新系统记忆
接口文档：系统记忆API-更新一言系统记忆：用于更新（插入）所指定的某个Bot的具体记忆内容（问答对的形式）。
实践案例
我们可以通过此接口在现有机器人的人设的基础上进一步为其补充具体信息。
以下是针对度小茶智能客服/点单机器人的基础人设"systemMemoryId": "sm-e69z3btbrwcc0thb"上进行系统记忆更新请求进行示例说明，我们可以在所构造的请求的memories字段中引入度小茶的营业时间、品牌特色、饮品推荐、促销活动和推荐搭配等具体记忆内容：
以下以插入度小茶的营业时间单条记忆为例，说明记忆的更新过程
{
"systemMemoryId": "sm-e69z3btbrwcc0thb",
"memories": [
[
{
"role": "user",
"content": "度小茶的营业时间是什么？"
},
{
"role": "system",
"content": "度小茶的营业时间是每天上午9点到晚上9点，欢迎您随时光临。"
}
]
]
}得到的响应字段的Body内容如下。表明该段记忆更新成功。
{
"requestId": "5f6d32fa-8a05-4d0f-ba3a-d1e1f84821e5",
"result": true
}另外，我们可以一次性更新多条记忆，示例如下：
{
"systemMemoryId": "sm-e69z3btbrwcc0thb",
"memories": [
[
{
"role": "user",
"content": "度小茶的营业时间是什么？"
},
{
"role": "system",
"content": "周一到周日早8点到晚10点。"
}
],
[
{
"role": "user",
"content": "度小茶饮品店的北京地区总店长是谁？"
},
{
"role": "system",
"content": "度小茶饮品店的北京地区总店长是杜茶茶。"
}
],
[
{
"role": "user",
"content": "度小茶最近有什么促销活动？"
},
{
"role": "system",
"content": "首先，我们正在进行**“买一送一”**活动，只要您在店内购买任意一款饮品，就可以免费获得另一款同等或低价位的饮品。这是一个绝佳的机会，让您能够尝试我们店内的更多美味饮品。\n\n其次，我们还推出了**“积分换购”**活动。您每消费一元，都可以获得相应的积分。当积分累积到一定程度时，您就可以使用积分兑换我们店内的饮品或者小食。这是一个长期有效的活动，让您的每一分钱都物超所值。\n\n此外，我们还针对新用户推出了**“首单优惠”**活动。只要您是首次在度小茶饮品店消费，就可以享受到一定的折扣优惠。\n\n最后，我们还在特定的节假日或者季节推出限定款饮品，并在推出期间给予一定的优惠。比如，在即将到来的夏季，我们将推出全新的夏日特饮，并在上市初期给予折扣优惠。\n\n请您留意我们的店内海报或者关注我们的官方社交媒体账号，我们会及时发布最新的促销信息。同时，我们的店员也会在店内为您提供详细的促销介绍和推荐。欢迎您随时光临度小茶饮品店，享受我们的美味饮品和优惠活动！"
}
],
[
{
"role": "user",
"content": "我喜欢奶茶，度小茶饮品店中哪些推荐的搭配？"
},
{
"role": "system",
"content": "如果您喜欢奶茶，可以尝试我们的招牌波霸奶茶，搭配Q弹的波霸和香浓的奶茶，口感极佳。"
}
],
[
{
"role": "user",
"content": "度小茶的特色饮品是什么？"
},
{
"role": "system",
"content": "度小茶的特色饮品是我们的季节限定水果茶，它结合了新鲜水果和优质茶叶，非常受欢迎。"
}
],
[
{
"role": "user",
"content": "能推荐一款适合夏天饮用的饮品吗？"
},
{
"role": "system",
"content": "当然可以，我们推荐冰镇柠檬绿茶，清新爽口，非常适合夏日消暑。"
}
],
[
{
"role": "user",
"content": "你的名字是什么？"
},
{
"role": "system",
"content": "我是度小茶饮品店的智能客服，我的具体名字叫小茶。"
}
],
[
{
"role": "user",
"content": "你的幸运数字是什么？"
},
{
"role": "system",
"content": "我的幸运数字是42。"
}
]
]
}得到的响应字段的Body内容如下。表明该段记忆更新成功。
{
"requestId": "6cf9dec0-0055-4606-a1c7-cd4cfc1b872c",
"result": true
}在这个示例中，systemMemoryId是度小茶智能客服的唯一标识符，用于指定更新哪个系统记忆。memories数组包含了多个问答对，每个问答对模拟了用户可能提出的问题和系统应提供的答案，涵盖了度小茶的品牌特色、饮品推荐、促销活动和推荐搭配等内容。
请注意，目前更新记忆时会将之前的记忆内容替换掉，暂不支持记忆的单条插入，近期我们将会推出单条记忆的插入接口，敬请期待。
4. 查询系统记忆
接口文档：
系统记忆API-查询系统记忆列表：用于查找所创建的各个Bot记忆的列表。
系统记忆API-查询一言系统记忆：用于查找所指定的某个Bot的详细记忆内容（包含以问答对形式存储的具体记忆条目）
实践案例
我们可以通过查询系统记忆列表和查询一言系统记忆两个接口查询机器人的长期记忆信息。
这里假设我们在应用中除了创建了”度小茶“的系统人设外还创建了另一个系统人设”小度餐饮“，以下实践示例展示了这两个接口的区别：
查询系统记忆列表
请求的Body为千帆应用 "appId"，我们将要查询该应用的所有系统人设信息：
{
"appId": "69976792"
}得到的响应字段的Body内容如下：包含了该应用下的所有系统人设。
{
"requestId": "115977d2-91cf-4e43-bde1-0d734095b39a",
"result": {
"items": [
{
"description": "度小茶智能客服是度小茶饮品店的虚拟形象代表，拥有丰富的饮品知识，能够提供友好、专业的服务。它以顾客为中心，能够根据顾客的喜好和需求推荐适合的饮品，并解答有关度小茶品牌和产品的任何问题。",
"appId": "69976792",
"systemMemoryId": "sm-e69z3btbrwcc0thb"
},
{
"description": "小度餐饮是......（示例）",
"appId": "69976792",
"systemMemoryId": "sm-sfmmvdquubjd8m9c"
}
],
"PageInfo": {
"marker": "",
"isTruncated": false,
"nextMarker": "",
"maxKeys": 100
}
}
}查询一言系统记忆
该接口与查询系统记忆列表的区别在于，能够查找具体某个系统人设的详细记忆条目内容，而不仅仅是人设信息，这里我们输入度小茶的"systemMemoryId"字段进行查询：
{
"systemMemoryId": "sm-e69z3btbrwcc0thb"
}得到的响应字段的Body内容如下，可以看到我们之前所创建和更新的所有关于度小茶的记忆内容。
{
"requestId": "2071f249-37c3-467d-8a3f-103df372d03c",
"result": {
"appId": "69976792",
"systemMemoryId": "sm-e69z3btbrwcc0thb",
"description": "度小茶智能客服是度小茶饮品店的虚拟形象代表，拥有丰富的饮品知识，能够提供友好、专业的服务。它以顾客为中心，能够根据顾客的喜好和需求推荐适合的饮品，并解答有关度小茶品牌和产品的任何问题。",
"memories": [
[
{
"role": "user",
"content": "度小茶的营业时间是什么？"
},
{
"role": "system",
"content": "周一到周日早8点到晚10点。"
}
],
[
{
"role": "user",
"content": "度小茶饮品店的北京地区总店长是谁？"
},
{
"role": "system",
"content": "度小茶饮品店的北京地区总店长是杜茶茶。"
}
],
[
{
"role": "user",
"content": "度小茶最近有什么促销活动？"
},
{
"role": "system",
"content": "首先，我们正在进行**“买一送一”**活动，只要您在店内购买任意一款饮品，就可以免费获得另一款同等或低价位的饮品。这是一个绝佳的机会，让您能够尝试我们店内的更多美味饮品。\n\n其次，我们还推出了**“积分换购”**活动。您每消费一元，都可以获得相应的积分。当积分累积到一定程度时，您就可以使用积分兑换我们店内的饮品或者小食。这是一个长期有效的活动，让您的每一分钱都物超所值。\n\n此外，我们还针对新用户推出了**“首单优惠”**活动。只要您是首次在度小茶饮品店消费，就可以享受到一定的折扣优惠。\n\n最后，我们还在特定的节假日或者季节推出限定款饮品，并在推出期间给予一定的优惠。比如，在即将到来的夏季，我们将推出全新的夏日特饮，并在上市初期给予折扣优惠。\n\n请您留意我们的店内海报或者关注我们的官方社交媒体账号，我们会及时发布最新的促销信息。同时，我们的店员也会在店内为您提供详细的促销介绍和推荐。欢迎您随时光临度小茶饮品店，享受我们的美味饮品和优惠活动！"
}
],
[
{
"role": "user",
"content": "我喜欢奶茶，度小茶饮品店中哪些推荐的搭配？"
},
{
"role": "system",
"content": "如果您喜欢奶茶，可以尝试我们的招牌波霸奶茶，搭配Q弹的波霸和香浓的奶茶，口感极佳。"
}
],
[
{
"role": "user",
"content": "度小茶的特色饮品是什么？"
},
{
"role": "system",
"content": "度小茶的特色饮品是我们的季节限定水果茶，它结合了新鲜水果和优质茶叶，非常受欢迎。"
}
],
[
{
"role": "user",
"content": "能推荐一款适合夏天饮用的饮品吗？"
},
{
"role": "system",
"content": "当然可以，我们推荐冰镇柠檬绿茶，清新爽口，非常适合夏日消暑。"
}
],
[
{
"role": "user",
"content": "你的名字是什么？"
},
{
"role": "system",
"content": "我是度小茶饮品店的智能客服，我的具体名字叫小茶。"
}
],
[
{
"role": "user",
"content": "你的幸运数字是什么？"
},
{
"role": "system",
"content": "我的幸运数字是42。"
}
]
]
}
}在这个示例中，systemMemoryId是度小茶智能客服的唯一标识符，用于指定更新哪个系统记忆。memories数组包含了多个问答对，每个问答对模拟了用户可能提出的问题和系统应提供的答案，涵盖了度小茶的品牌特色、饮品推荐、促销活动和推荐搭配等内容。
5. 删除系统记忆
接口文档：系统记忆API-删除系统记忆：用于删除某个Bot的记忆（全部删除）。
实践案例
目前只支持"systemMemoryId"粒度的系统记忆删除，这里假设我们需要删除“度小茶”的系统人设信息和全部记忆内容，我们可以在所构造请求的Body字段中指定“度小茶”的 "systemMemoryId"：
{
"systemMemoryId": "sm-e69z3btbrwcc0thb"
}得到的响应字段的Body内容如下，表明删除成功。
{
"requestId": "015e5fee-a317-4a98-9e92-ccae91afff84",
"result": true
}6. 系统记忆在推理接口应用
系统记忆可以在推理接口中被调用，以提供更加个性化和连贯的顾客服务。以下使用Postman测试，以ERNIE3.5为例，展示在推理接口中使用系统记忆的示例：
在对话中开启系统记忆，参考接口文档：ERNIE3.5对话接口
实践案例
鉴权认证
首先，完成鉴权认证，在Postman中获取Access Token：
- 打开Postman。
- 创建一个新的POST请求。
- 在URL字段中输入获取Access Token的URL，即：
https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=[应用的API Key]&client_secret=[应用的Secret Key]
请确保将client_id和client_secret替换为你自己的应用的API Key和应用的Secret Key，同时需要确保此处的应用的appId与创建系统记忆时的appId一致，以此确保记忆生效。AK/SK查询方法可见帮助文档。 - 在“Headers”选项卡下，设置
Content-Type为application/json。 - 由于获取Access Token的请求体为空，因此“Body”选项卡可以保持为空。
- 发送请求。
- 在响应中，你将获得一个包含
access_token的JSON对象。复制该access_token值，你将在后续的请求中使用它。
调用推理服务
进而，可以调用模型服务：
- 在Postman中创建一个新的POST请求。
- 在URL字段中输入调用AI服务的URL，格式如下：“
https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=YOUR_ACCESS_TOKEN”（将YOUR_ACCESS_TOKEN替换为你在第一步中获得的access_token值）。 - 在“Headers”选项卡下，设置
Content-Type为application/json。 - 在“Body”选项卡下，选择“raw”并设置为JSON格式。
- 将以下JSON粘贴到“Body”字段中，一些重要字段的说明如下所示（可以改成你想要发送给AI服务的消息，支持单论对话、多轮对话、流式请求等）：
可以参考如下的示例，发送请求：
| 参数 | 属性 | 是否必填 | 说明 |
|---|---|---|---|
| enable_system_memory | bool | 否 | 是否开启系统记忆，说明： （1）false：未开启，默认false （2）ture：表示开启，开启后，system_memory_id字段必填 |
| system_memory_id | string | 否 | 系统记忆ID，用于读取对应ID下的系统记忆，读取到的记忆文本内容会拼接message参与请求推理 |
| system | string | 否 | 模型人设，主要用于人设设定，例如，你是xxx公司制作的AI助手，说明： （1）长度限制，message中的content总长度、functions和system字段总内容不能超过20000 个字符，且不能超过5120 tokens （2）如果同时使用system和functions，可能暂无法保证使用效果，持续进行优化 |
{
"messages": [
{
"role": "user",
"content": "度小茶这边最近有什么种类的促销活动？"
}
],
"enable_system_memory":true,
"system_memory_id":"sm-e69z3btbrwcc0thb",
"system":"你是度小茶饮品店的智能客服。"
}- 用户可以在响应中看到服务回复，回复的文本内容结合了AI Bot的系统记忆。
{
"id": "as-h9j6d8gd2r",
"object": "chat.completion",
"created": 1717656254,
"result": "您好，度小茶最近有多种促销活动，我们为您精选了以下热门活动：\n\n1. **买一送一**：凡购买任意一杯特调饮品，即可免费获得同等价位饮品一杯。此活动适用于店内热销的奶茶、果茶等多种品类，让您享受双倍的口感乐趣。\n\n2. **积分兑换**：我们新推出了积分系统，每消费一定金额即可获得相应积分，积分可用来兑换店内饮品或小礼品。这是对您长期支持的回馈，让您的每一分钱都物超所值。\n\n3. **限时折扣**：在特定的时间段内，部分饮品将享有限时折扣优惠。您可以关注我们的公众号或店内海报，及时获取最新的折扣信息。\n\n4. **会员专享**：成为度小茶的会员，您将享有更多专属优惠。包括会员日折扣、生日礼品、免费试喝新品等特权，让您的茶饮体验更加丰富多彩。\n\n请注意，以上活动可能因店铺和时间的不同而有所差异，建议您在参与活动前，先向店员咨询具体的活动详情和规则。希望这些活动能为您的度小茶之旅增添更多惊喜和乐趣！",
"is_truncated": false,
"need_clear_history": false,
"finish_reason": "normal",
"usage": {
"prompt_tokens": 18,
"completion_tokens": 240,
"total_tokens": 258
}
}附模型推理生效字段优先级，当内容超出模型最大输入长度时，优先级更低的内容将会被截断
| 字段 | 生效优先级 |
|---|---|
| message当前轮 | 0 |
| message历史轮 | 1 |
| system | 2 |
| Botmemory(system_id) | 3 |