腾讯混元 Hy-Memory-30B-A3B:专门给 Agent 写长期记忆的 3B 激活参数模型
发布日期:2026-10-21
关键词:Hy-Memory-30B-A3B、长期记忆、Memory Writer、Mem0、MemOS、Agent 记忆模型
Hy-Memory-30B-A3B 是腾讯混元在 2026 年 10 月公开的长期记忆写入模型,官方介绍约有 3B 激活参数,负责在外部记忆框架的 write path 中决定保留什么、如何表达以及新证据如何更新记忆。它不是聊天助手、向量数据库,也不负责自动同步多个客户端。

先看结论:它解决的是“记什么”,不是“回答什么”
普通大模型可以从对话里总结用户偏好,但把通用模型直接塞进记忆管线,仍要处理记忆候选筛选、事实改写、冲突更新和过度存储。Hy-Memory-30B-A3B 的定位更窄:它把这些写入决策作为专门任务训练,然后把结果交给 Mem0、MemOS 或 Hy Memory 这样的外部框架保存和检索。
可以把一次调用拆成四层:
输入层:对话消息、工具调用轨迹或代码变更证据。
写入层:Hy-Memory-30B-A3B 判断哪些信息值得保留,生成自洽的记忆表述,并处理新证据对旧记忆的更新。
框架层:外部系统负责 schema、去重、向量或图存储、检索、删除和版本管理。
回答层:回答模型读取检索结果,继续完成用户任务。
因此,模型名称里的 A3B 应理解为每个 token 的激活参数口径。它不等于下载后只需要 3B 参数的权重显存;总权重、精度、上下文长度、KV Cache 和并发都会影响部署资源。
为什么需要专门的 Memory Writer
长期记忆的关键不是把对话压缩得更长,而是让每一条记录在未来检索时仍然可用。一个写入器至少要回答三个问题:这句话是否值得留下,应该用多精度的事实表达,后续证据是新增、修正还是冲突。
腾讯混元官方模型卡称,Hy-Memory-30B-A3B 直接面向外部记忆框架的写入路径,可以替换 Mem0、MemOS 和 Hy-Memory 中原本承担写入工作的通用大模型。官方技术报告还把训练拆成两个阶段:
Memory On-Policy Distillation(OPD):在已部署的记忆框架配置中学习写入协议和状态变化。
Attributed Memory Reinforcement Learning:让下游记忆结果、跨片段归因和过度存储控制参与奖励,优化最终可用性。
这解释了它与普通聊天模型的区别:它的目标不是写出一段看起来完整的总结,而是让记忆库中的事实、经验和演化关系更容易被后续任务使用。模型本身仍然没有永久记忆,持久化状态要由外部系统保存。
它和 Mem0、MemOS、Hy Memory 是什么关系
Hy Memory 仓库把系统能力分为三种场景:Chat 使用层级记忆;Working 保存会话事实和可复用经验;Coding 在这两层之外增加代码版本演化链。这里的路由、SQLite、向量库、图存储、分支隔离和删除接口属于框架能力,不会因为换上一个模型权重就自动获得。
官方 Quickstart:用 vLLM 暴露 OpenAI 兼容接口
模型卡给出的 Quickstart 以 vLLM 0.31.0 为测试基线,并要求把服务名设为 hy-memory。一个最小的本地调用流程如下:
# 具体显卡、精度和并发参数按当前 vLLM 与模型卡核对
vllm serve tencent/Hy-Memory-30B-A3B \
--served-model-name hy-memory然后用 OpenAI 兼容客户端调用写入器。下面的提示词沿用官方模型卡思路,只抽取显式事实,不让模型替用户推断信息:
from openai import OpenAI
client = OpenAI(
base_url="http://127.0.0.1:8000/v1",
api_key="EMPTY",
)
response = client.chat.completions.create(
model="hy-memory",
messages=[
{
"role": "system",
"content": (
"Extract explicit user facts and preferences from the conversation. "
"Write each memory as a concise, self-contained statement. "
"Do not infer or invent information. "
'Return only a JSON object with a "memories" list of strings.'
),
},
{
"role": "user",
"content": (
"My name is Alex. I live in Seattle and work as a software engineer. "
"I mainly use Python and prefer concise answers with code examples."
),
},
],
temperature=0.0,
max_tokens=512,
extra_body={
"chat_template_kwargs": {
"reasoning_effort": "no_think",
},
},
)
print(response.choices[0].message.content)上线前至少做三项检查:先验证返回内容确实是 JSON,再把 memories 映射到框架的 schema,最后保留原始消息或工具轨迹作为证据。reasoning_effort=no_think 是官方示例中的请求参数,不应默认推断为所有推理后端都支持。

官方评测怎么看:55.49 不是“通用准确率”
腾讯混元技术报告在固定 20% benchmark 子集上比较四套 harness:Mem0、Hy-Memory、MemOS,以及训练未见的 EverMemOS。每套 harness 的分数由六项指标等权平均,包括 LoCoMo Judge、LongMemEval、PersonaMem-v2、Travel SPS、Shopping PS 和 Code Memory Bench,最后再对四套 harness 等权平均。
在这个限定条件下,报告给出的 Hy-Memory-30B-A3B macro average 为 55.49,Claude Opus 5 为 54.62,DeepSeek V4.1 Flash 为 53.64。这说明它在该官方矩阵中取得了较高的写入评测结果,但不能直接改写成第三方复现、完整数据集准确率或任何记忆框架的普遍排名。

更值得关注的是评测设计:比较时固定了 harness、提示词、检索配置、回答模型和评审规则,变化的主要变量是 memory writer。这样的设计更接近“同一记忆系统换写入模型”的问题,但仍不能替代你自己的业务数据测试。
Chat、Working、Coding 三类场景怎么落地
Chat 记忆适合保存长期偏好、身份事实和明确意图。写入时要附带用户标识、时间和来源,冲突更新不能只依赖相似度。
Working 记忆适合文档整理、研究、内容生产和运营任务。Hy Memory 将一次带工具调用的会话拆成 session fact 与 reusable experience,前者记录本次做了什么,后者记录下次可复用的方法。
Coding 记忆还要保留真实代码版本变化。Hy Memory 的 coding chain 可以关联文件、函数、分支和 diff;只保存一句“已经修复”无法替代可追溯的工程证据。
无论使用哪种场景,部署检查清单都应包含:
用户、工作区和分支是否隔离;
写入结果是否通过 JSON/schema 校验;
原始证据、来源和更新时间是否可追溯;
删除、过期和纠错是否有明确路径;
涉及财务、医疗、合同或权限的信息是否经过人工复核;
API Key、真实对话和个人路径是否没有写入日志或示例。
结语
Hy-Memory-30B-A3B 的价值在于把长期记忆写入从通用聊天模型里拆出来,专门优化“保留什么、怎样表达、如何更新”这条链路。它可以作为 Mem0、MemOS 或 Hy Memory 的写入组件,但存储、检索、回答、权限和数据生命周期仍由外部系统负责。
本文数据截至 2026 年 10 月 21 日,版本、评测数字和接口边界以文末官方资料为准。
参考资料
Hugging Face 官方模型卡(模型定义、Quickstart、评测表):https://huggingface.co/tencent/Hy-Memory-30B-A3B
腾讯混元 Hy-Memory 官方仓库(Hy Memory、场景和 MemHub):https://github.com/Tencent-Hunyuan/Hy-Memory
腾讯混元 Hy-Memory v1.0.4 Release:https://github.com/Tencent-Hunyuan/Hy-Memory/releases/tag/v1.0.4
arXiv 技术报告 2610.22196:https://arxiv.org/abs/2610.22196
Hy-Memory FP8 模型卡:https://huggingface.co/tencent/Hy-Memory-30B-A3B-FP8
Hy-Memory GGUF 模型卡:https://huggingface.co/tencent/Hy-Memory-30B-A3B-GGUF
七牛云 AI 大模型广场:https://www.qiniu.com/ai/models