MemT 1.0 – 记忆原生大模型

MemT1.0 是记忆张量团队推出的记忆原生基座大模型，包含 MemT-1.0-Flash 与 MemT-1.0-Nano 两个版本，对应 288B 和 36B 参数规格，配套不同容量的动态记忆单元。该模型跳出检索增强的外挂记忆方案，将记忆读写、更新逻辑嵌入模型底层计算链路，交互过程沉淀的经验编码成独立记忆状态留存，新任务执行阶段直接调取记忆状态参与推理，不用重复传入全部历史对话文本。长序列场景下相比传统 KV 缓存方案压缩存储开销，推理速度获得提升，在记忆类基准评测与智能体任务测试上取得优于同类参数化记忆方案的表现，整套模型权重与相关代码资源对外开源。

MemT 1.0特点

记忆模块嵌入模型主干，记忆读写属于模型原生计算流程，不依赖外部向量库检索。

独立记忆状态按任务或用户隔离，不同会话之间记忆数据互不干扰。

门控机制自主完成信息写入、覆盖、遗忘，过滤无效闲聊信息，保留有效经验。

双版本梯度配置，Flash 面向高复杂度长周期智能体任务，Nano 适配轻量化部署需求。

长上下文场景降低缓存占用，减少大量历史 token 重复传入带来的资源消耗。

原有基座通用能力保留，记忆增强不会造成基础问答、代码、理解能力下滑。

MemT 1.0术原理

在 Transformer 结构内新增记忆分支，主干网络负责基础语义编码，记忆分支维护动态记忆矩阵。GatedDeltaNet-2 提供逐 token 级别的记忆更新逻辑，每一轮交互结束后由门控单元判断信息价值，对记忆矩阵执行增量修改。Mixture-of-Storage 混合存储机制划分多组记忆专家，稠密路由分配存储资源，支撑更大规模记忆容量。整套训练流程拆分为持续预训练和后训练两个阶段，依托 34B 规模训练数据让模型掌握记忆读写策略。推理阶段查询信号送入记忆分支检索匹配状态，记忆输出与注意力计算结果融合，共同参与 token 生成。

MemT 1.0功能

持续积累交互过程产生的经验，跨会话复用历史交互信息。

长对话场景缩减上下文传输体量，降低推理阶段显存占用。

代码智能体执行过程记录失败案例、调试规则，同类问题复用过往调试经验。

区分信息时效性，自动覆盖过期内容，维持记忆状态的有效性。

输出可持久化的记忆快照，快照可保存、加载，跨实例延续同一任务的积累信息。

兼容常规基座模型调用方式，原有推理调度链路小幅改造即可接入记忆能力。

MemT 1.0应用场景

长期对话助手，跨多次会话记住用户偏好、历史需求与约定事项。

软件开发智能体，持续记录项目规范、历史 bug 和修复方案，提升重复问题处理效率。

个性化教学系统，记录学习者薄弱知识点、练习轨迹，匹配对应学习方案。

多轮业务流程机器人，记住历史业务参数、客户要求，减少重复信息询问。

记忆方向算法实验，用于参数化记忆、原生记忆架构相关对照测试。

长期运行的自动化 Agent 集群，沉淀任务执行经验，优化重复任务成功率。

MemT 1.0如何使用

前往项目开源仓库，拉取 MemT1.0 配套代码与权重文件，核对硬件显存资源匹配所选版本。

部署模型推理环境，安装框架依赖，完成基座主干与记忆模块权重加载。

编写调用脚本，开启记忆状态持久化开关，设定单实例记忆容量上限。

启动交互流程，传入用户指令，模型自动完成语义推理与记忆更新。

按需导出记忆快照，快照文件可保存至本地，新会话加载快照接续之前积累内容。

开展记忆效果测试，调整门控相关超参，控制记忆写入和遗忘的宽松程度。

接入上层业务系统，封装记忆快照读写接口，搭建具备长期记忆能力的智能体服务。

MemT 1.0同类产品对比

表格