发布日期:2026-10-21
关键词:Hy-Memory-30B-A3B、长期记忆、Memory Writer、Mem0、MemOS、Agent 记忆模型

Hy-Memory-30B-A3B 是腾讯混元在 2026 年 10 月公开的长期记忆写入模型,官方介绍约有 3B 激活参数,负责在外部记忆框架的 write path 中决定保留什么、如何表达以及新证据如何更新记忆。它不是聊天助手、向量数据库,也不负责自动同步多个客户端。

先看结论:它解决的是“记什么”,不是“回答什么”

普通大模型可以从对话里总结用户偏好,但把通用模型直接塞进记忆管线,仍要处理记忆候选筛选、事实改写、冲突更新和过度存储。Hy-Memory-30B-A3B 的定位更窄:它把这些写入决策作为专门任务训练,然后把结果交给 Mem0、MemOS 或 Hy Memory 这样的外部框架保存和检索。

可以把一次调用拆成四层:

  1. 输入层:对话消息、工具调用轨迹或代码变更证据。

  2. 写入层:Hy-Memory-30B-A3B 判断哪些信息值得保留,生成自洽的记忆表述,并处理新证据对旧记忆的更新。

  3. 框架层:外部系统负责 schema、去重、向量或图存储、检索、删除和版本管理。

  4. 回答层:回答模型读取检索结果,继续完成用户任务。

因此,模型名称里的 A3B 应理解为每个 token 的激活参数口径。它不等于下载后只需要 3B 参数的权重显存;总权重、精度、上下文长度、KV Cache 和并发都会影响部署资源。

为什么需要专门的 Memory Writer

长期记忆的关键不是把对话压缩得更长,而是让每一条记录在未来检索时仍然可用。一个写入器至少要回答三个问题:这句话是否值得留下,应该用多精度的事实表达,后续证据是新增、修正还是冲突。

腾讯混元官方模型卡称,Hy-Memory-30B-A3B 直接面向外部记忆框架的写入路径,可以替换 Mem0、MemOS 和 Hy-Memory 中原本承担写入工作的通用大模型。官方技术报告还把训练拆成两个阶段:

  • Memory On-Policy Distillation(OPD):在已部署的记忆框架配置中学习写入协议和状态变化。

  • Attributed Memory Reinforcement Learning:让下游记忆结果、跨片段归因和过度存储控制参与奖励,优化最终可用性。

这解释了它与普通聊天模型的区别:它的目标不是写出一段看起来完整的总结,而是让记忆库中的事实、经验和演化关系更容易被后续任务使用。模型本身仍然没有永久记忆,持久化状态要由外部系统保存。

它和 Mem0、MemOS、Hy Memory 是什么关系

对象

负责的层

Hy-Memory-30B-A3B 的关系

Mem0

记忆框架、存储与检索流程

官方模型卡将它列为可替换写入器的框架之一

MemOS

记忆框架与记忆管理

可以把通用写入模型替换为专用 writer,但仍需按框架协议适配

Hy Memory

腾讯混元的记忆引擎与 Python SDK

模型可用于 Chat、Working、Coding 三类写入场景

EverMemOS

技术报告中的评测 harness

作为训练未见的 held-out 系统,用来观察跨框架迁移,不等于自动完成产品集成

Hy Memory 仓库把系统能力分为三种场景:Chat 使用层级记忆;Working 保存会话事实和可复用经验;Coding 在这两层之外增加代码版本演化链。这里的路由、SQLite、向量库、图存储、分支隔离和删除接口属于框架能力,不会因为换上一个模型权重就自动获得。

官方 Quickstart:用 vLLM 暴露 OpenAI 兼容接口

模型卡给出的 Quickstart 以 vLLM 0.31.0 为测试基线,并要求把服务名设为 hy-memory。一个最小的本地调用流程如下:

# 具体显卡、精度和并发参数按当前 vLLM 与模型卡核对
vllm serve tencent/Hy-Memory-30B-A3B \
  --served-model-name hy-memory

然后用 OpenAI 兼容客户端调用写入器。下面的提示词沿用官方模型卡思路,只抽取显式事实,不让模型替用户推断信息:

from openai import OpenAI

client = OpenAI(
    base_url="http://127.0.0.1:8000/v1",
    api_key="EMPTY",
)

response = client.chat.completions.create(
    model="hy-memory",
    messages=[
        {
            "role": "system",
            "content": (
                "Extract explicit user facts and preferences from the conversation. "
                "Write each memory as a concise, self-contained statement. "
                "Do not infer or invent information. "
                'Return only a JSON object with a "memories" list of strings.'
            ),
        },
        {
            "role": "user",
            "content": (
                "My name is Alex. I live in Seattle and work as a software engineer. "
                "I mainly use Python and prefer concise answers with code examples."
            ),
        },
    ],
    temperature=0.0,
    max_tokens=512,
    extra_body={
        "chat_template_kwargs": {
            "reasoning_effort": "no_think",
        },
    },
)

print(response.choices[0].message.content)

上线前至少做三项检查:先验证返回内容确实是 JSON,再把 memories 映射到框架的 schema,最后保留原始消息或工具轨迹作为证据。reasoning_effort=no_think 是官方示例中的请求参数,不应默认推断为所有推理后端都支持。

官方评测怎么看:55.49 不是“通用准确率”

腾讯混元技术报告在固定 20% benchmark 子集上比较四套 harness:Mem0、Hy-Memory、MemOS,以及训练未见的 EverMemOS。每套 harness 的分数由六项指标等权平均,包括 LoCoMo Judge、LongMemEval、PersonaMem-v2、Travel SPS、Shopping PS 和 Code Memory Bench,最后再对四套 harness 等权平均。

在这个限定条件下,报告给出的 Hy-Memory-30B-A3B macro average 为 55.49,Claude Opus 5 为 54.62,DeepSeek V4.1 Flash 为 53.64。这说明它在该官方矩阵中取得了较高的写入评测结果,但不能直接改写成第三方复现、完整数据集准确率或任何记忆框架的普遍排名。

更值得关注的是评测设计:比较时固定了 harness、提示词、检索配置、回答模型和评审规则,变化的主要变量是 memory writer。这样的设计更接近“同一记忆系统换写入模型”的问题,但仍不能替代你自己的业务数据测试。

Chat、Working、Coding 三类场景怎么落地

Chat 记忆适合保存长期偏好、身份事实和明确意图。写入时要附带用户标识、时间和来源,冲突更新不能只依赖相似度。

Working 记忆适合文档整理、研究、内容生产和运营任务。Hy Memory 将一次带工具调用的会话拆成 session fact 与 reusable experience,前者记录本次做了什么,后者记录下次可复用的方法。

Coding 记忆还要保留真实代码版本变化。Hy Memory 的 coding chain 可以关联文件、函数、分支和 diff;只保存一句“已经修复”无法替代可追溯的工程证据。

无论使用哪种场景,部署检查清单都应包含:

  • 用户、工作区和分支是否隔离;

  • 写入结果是否通过 JSON/schema 校验;

  • 原始证据、来源和更新时间是否可追溯;

  • 删除、过期和纠错是否有明确路径;

  • 涉及财务、医疗、合同或权限的信息是否经过人工复核;

  • API Key、真实对话和个人路径是否没有写入日志或示例。

结语

Hy-Memory-30B-A3B 的价值在于把长期记忆写入从通用聊天模型里拆出来,专门优化“保留什么、怎样表达、如何更新”这条链路。它可以作为 Mem0、MemOS 或 Hy Memory 的写入组件,但存储、检索、回答、权限和数据生命周期仍由外部系统负责。

本文数据截至 2026 年 10 月 21 日,版本、评测数字和接口边界以文末官方资料为准。

参考资料