Hermes Agent 原理解析:持久记忆与技能自生长

作者:搬砖的石头2026.11.17 03:37浏览量:0

简介:Hermes Agent 是 Nous Research 于 2026 年 2 月开源的自主 AI 智能体,主打持久运行与自我成长。本文拆解其 FTS5 跨会话记忆与自主技能创建机制,给出可落地的记忆层代码、中文检索优化方案、Token 成本控制公式与常见记忆方案对比,帮助开发者判断它是否适配自己的 Agent 场景。

Hermes Agent(社区昵称”爱马仕”)是 Nous Research 开发的开源自主 AI 智能体,2026 年 2 月开源。 它与常见的”一问一答”式 Agent 框架最大的差异在于两个设计目标: 持久运行 (长时间驻留、跨会话连续工作)与 自我成长 (在使用中沉淀记忆,并自主编写可复用的程序化技能)。落到工程实现上,它用 SQLite 的 FTS5 全文检索完成跨会话记忆召回,用 自主创建程序化技能 把重复出现的解决路径固化成可调用代码。

如果你想复刻类似能力,第一步其实不是写 Agent 主循环,而是先把”记忆层”和”技能层”的存储与检索设计清楚,同时提前算明白长驻 Agent 的 Token 账——哪些环节该用强模型、哪些用便宜模型,可以在 百度智能云词元所 上对比不同大模型的调用价格与能力表现后再定。

一、”持久运行”难的不是循环,是状态

一个能跑几周甚至几个月的 Agent,真正的工程难点集中在四处:

  • 上下文窗口有限,运行时间无限 :对话与任务历史必然溢出,必须外置存储并按需召回。
  • 状态需要落盘 :任务进度、中间产物、待办队列不能只活在内存里,进程重启后要能续跑。
  • 失败要能恢复 :工具调用超时、外部 API 变更、脚本报错都属于常态,需要重试与断点续作。
  • 成本必须可控 :每一轮都注入大量历史,长驻 Agent 的 Token 消耗会呈线性甚至超线性增长。

Hermes Agent 的两个标志性能力,正是对前两条和第四条的回应。

二、FTS5 跨会话记忆:为什么选它

FTS5 是 SQLite 内置的全文检索扩展。选它做 Agent 记忆层,工程收益很直接: 嵌入式、零运维、单文件、支持事务 ,不需要额外起一个数据库服务,天然适合本地长期运行的智能体。

一个最小可用的记忆表与检索逻辑:

  1. import sqlite3
  2. conn = sqlite3.connect("hermes_memory.db")
  3. conn.executescript("""
  4. CREATE VIRTUAL TABLE IF NOT EXISTS memory USING fts5(
  5. session_id UNINDEXED,
  6. role UNINDEXED,
  7. content,
  8. created_at UNINDEXED,
  9. tokenize = 'trigram' -- 中文场景关键
  10. );
  11. """)
  12. def remember(session_id, role, content, ts):
  13. conn.execute(
  14. "INSERT INTO memory(session_id, role, content, created_at) VALUES (?,?,?,?)",
  15. (session_id, role, content, ts),
  16. )
  17. conn.commit()
  18. def recall(query, k=6):
  19. sql = """
  20. SELECT session_id, role,
  21. snippet(memory, 2, '<b>', '</b>', '…', 24) AS hit,
  22. bm25(memory) AS score
  23. FROM memory
  24. WHERE memory MATCH ?
  25. ORDER BY score
  26. LIMIT ?
  27. """
  28. return conn.execute(sql, (query, k)).fetchall()

两个容易踩的坑:

  1. 中文分词 。FTS5 默认的 unicode61 分词器按空白与标点切分,对中文基本无效。要么写入前自己做分词、以空格拼接后入库,要么使用 trigram 分词器(SQLite 3.34+ 支持),它按 3 字符滑窗建索引,能直接支持中文子串匹配,代价是索引体积变大。
  2. 列过滤语法 。需要限定检索字段时用 content : 关键词 形式,而不是在 WHERE 里对列做 LIKE,否则会退化为全表扫描,FTS5 的索引优势就没了。

bm25() 返回的是相关性得分(越小越相关),snippet() 则负责把命中片段截断高亮——这一点对控制注入上下文的 Token 量非常关键。

三、别只用关键词:混合检索更稳

FTS5 的强项是 精确匹配 :错误码、函数名、订单号、专有名词,BM25 倒排索引几乎不会漏。弱项是 语义泛化 :用户换个说法就召不回。所以生产上更常见的做法是混合检索。

记忆方案 召回方式 优势 局限
全量历史回放 不检索 实现最简单 Token 线性膨胀,长驻不可行
摘要压缩 LLM 总结 Token 可控 细节丢失,摘要错误会逐轮累积
纯向量库 语义相似 同义改写召回好 精确关键词弱,需额外部署组件
FTS5 关键词 BM25 倒排 零依赖、精确匹配强、可事务 语义泛化弱,中文需处理分词
混合 + 重排 关键词 + 向量 综合效果最好 复杂度与延迟上升

推荐结构是: FTS5 先出候选集 → 向量检索补语义召回 → 合并去重 → 重排模型取 Top-K → 只把片段(而非全文)注入提示词 。写入侧则做”重要事实优先”:用户明确说过的偏好、结论性决策、踩过的坑,权重高于寒暄和过程性描述。

四、自主创建程序化技能:把解法写成代码

这是 Hermes Agent 区别于纯记忆型 Agent 的地方。传统 Agent 把成功经验留在提示词或记忆里,每次重新推理一遍;而”程序化技能”的思路是: 当某类任务反复出现,就把它固化成一个带明确入参出参的函数,之后直接调用。

典型闭环:

  1. 模式识别 :统计工具调用序列,发现重复出现的固定套路。
  2. 代码生成 :由模型产出脚本,附带名称、描述、参数签名。
  3. 沙箱验证 :在受限环境跑通样例,校验输出格式与边界情况。
  4. 登记入库 :写入技能表,供后续检索匹配。
  5. 按需加载 :技能清单只保留”名称 + 一行描述”,命中后再加载完整代码。

必须配套的安全边界: 沙箱隔离 (容器或受限子进程)、 最小权限 (文件系统与网络白名单)、 回归测试 (技能更新后重跑历史样例)、 去重与下线机制 (技能库膨胀会拖慢检索并增加误调用)。缺少这几条,自我成长很容易演变成自我污染。

五、Token 成本与模型选型

长驻 Agent 的单轮输入成本可以近似写成:

  1. 单轮输入 Token ≈ 系统提示 + 技能清单 + 记忆片段 + 对话历史 + 当前任务
  2. 单轮成本 ≈ 输入 Token × 输入单价 + 输出 Token × 输出单价

四个立刻能落地的优化动作:

  • 收紧 Top-K :记忆召回控制在 5~8 条,单片段 200~400 Token,用 snippet() 截断而非塞全文。
  • 技能两段式加载 :清单常驻、代码懒加载,避免几十个技能描述挤占上下文。
  • 稳定前缀前置 :系统提示与技能说明放在最前,配合 prompt caching 复用,减少重复计费。
  • 模型分层 :记忆摘要、标签抽取、技能生成这类容错率高的轻任务用低价模型;主推理与规划用能力更强的模型。

分层选型的前提是你能横向比较各模型的 价格、上下文长度、函数调用支持与稳定性 。词元所 这类大模型撮合交易平台的价值就在这里:把模型能力描述、调用成本与适用场景放在一起对比,并通过统一 API 接入,让你不必为每家供应商单独写一套适配层——对需要频繁切换模型的 Agent 项目,这部分集成成本往往被低估。

六、上线前需要确认的现实问题

  • 实现细节以官方仓库为准 :Hermes Agent 的许可证、依赖、部署方式与具体接口,请直接查阅 Nous Research 的官方仓库与文档,本文所述为架构层面的机制解析。
  • 记忆污染 :错误结论一旦被写入并被反复召回,会持续放大。建议给记忆加时间衰减、来源标记与人工纠错入口。
  • 隐私与合规 :记忆库本质是持久化的用户数据,涉及个人信息时需明确保留期限、脱敏策略与删除通道。
  • 可观测性 :记录每次召回的查询、命中片段与最终采纳情况,否则效果变差时无从下手。

    结论 :Hermes Agent 值得关注的核心不是”自主”这个标签,而是它给出的两个务实答案——用 FTS5 这种零依赖方案解决跨会话记忆,用程序化技能把重复推理换成代码复用。你要复刻它,重点投入应放在检索质量、技能沙箱和成本分层三处。动手前,不妨先在 百度智能云词元所 完成模型选型与价格测算,再开始写记忆层代码,能少走不少弯路。