DuoMem – 三星研究院联合高校团队提出的轻量化AI模型增强框架

DuoMem是由三星研究院联合高校团队提出的轻量化AI模型增强框架，专为解决边缘设备（如家用机器人、IoT设备）上小参数模型（4B-14B）处理复杂任务能力不足的问题。通过双路径知识迁移机制，将大模型（如720B参数的Qwen）的决策逻辑转化为小模型可直接调用的经验库与参数优化，使小模型在不增加推理延迟的前提下，任务成功率提升12倍以上（从4.3%至55%），同时保持仅需4MB存储的极低资源占用。

DuoMem核心特点

1. 双路径知识迁移

情境空间蒸馏（CD）：由大模型离线生成高质量程序记忆脚本（如“清洁物品→放入抽屉”的操作流程），小模型推理时直接调用外部经验库，无需修改自身参数。
参数空间蒸馏（PD）：通过LoRA微调小模型内部参数，将大模型的成功操作模式刻入“肌肉记忆”，仅需0.15%的额外参数量（约590万）即可显著优化决策逻辑。

2. 极致轻量化设计

记忆库体积仅4MB：相当于几张高清照片，可嵌入资源受限设备（如扫地机器人）。
推理零延迟增加：程序脚本平均70个token，完整参考轨迹480个token，对小模型输入负担极小。

3. 小模型增益显著

能力越弱的小模型提升越明显：4B参数模型成功率从4.3%跃升至55%（提升12倍），而大模型仅提升5%。
步骤效率优化：任务平均完成步数从29.3步降至20.6步，减少30%无效操作，避免在错误路径反复尝试。

DuoMem技术原理

1. 程序记忆机制

动态经验检索：将任务描述与记忆库脚本转换为向量，通过余弦相似度匹配最相关操作流程（如“清洁海绵”任务自动关联“清洁抹刀”历史记录）。
双层级参考：同时提供k条程序脚本（通常k=10）和1条完整成功轨迹，前者补充操作模式，后者提供端到端示范。

2. 双管道协同工作流

离线预处理阶段：
1. 大模型执行所有训练任务，生成11,434条成功操作轨迹。
2. 提炼轨迹为程序脚本存入记忆库，并构建LoRA微调数据集。
在线推理阶段：
1. 小模型接收任务后，实时检索匹配的记忆脚本注入输入上下文。
2. 结合LoRA微调后的参数，直接输出决策动作（如“移动至水槽→清洗→打开抽屉”）。

3. LoRA高效微调

仅更新低秩矩阵：在原始模型旁附加微型插件（590万参数），不改动主干网络，训练仅需1轮数据遍历。
成功轨迹筛选：仅用大模型100%成功的操作记录微调，避免错误经验污染小模型。

DuoMem核心功能

1. 复杂任务分解执行

将多步骤任务拆解为可复用的原子操作链，小模型能精准识别目标物品、规划路径并完成全流程，避免传统小模型的常见错误。

2. 动态适应新场景

面对未见过的任务类型（如“擦拭屏幕后放入收纳盒”），通过检索相似历史脚本（如“清洁海绵”），自主泛化操作逻辑，无需重新训练。

3. 资源-精度平衡调节

可按设备性能调整记忆脚本数量：4条脚本即可使任务成功率饱和至78.6%，避免冗余输入导致延迟。
支持关闭任一管道（仅用CD或PD），灵活适配存储/算力约束。

DuoMem应用场景

1. 家用服务机器人

扫地机器人：精准执行“清理厨房→倒尘盒→返回充电”连贯指令，减少30%无效移动，任务完成率提升10倍以上。
护理机器人：根据“帮老人取药并说明用法”指令，自动定位药盒、识别药品标签、生成语音提示，避免小模型漏步骤或误操作。

2. 工业边缘设备

产线质检终端：在无云端依赖下，通过指令“检测电路板焊点→标记缺陷位置”完成全流程，响应速度达200ms/任务（大模型需2秒+）。
仓储AGV调度：实时解析“将A区第3层货物转运至B区”指令，结合历史路径记忆优化移动路线，错误率下降60%。

3. 移动端AI助手

手机本地化Agent：无需联网即可处理“整理会议录音→提取待办事项→添加日历提醒”多步骤任务，全程在端侧3秒内完成。
离线文档处理：在无网络环境下，通过指令“扫描合同→提取甲方/金额→生成摘要”实现关键信息提取，准确率接近云端大模型80%。

DuoMem将大模型的“解题智慧”转化为小模型可即插即用的“操作经验”，通过分离外部知识调用（情境蒸馏）与内部能力强化（参数蒸馏），在严苛的边缘计算约束下实现复杂任务处理能力的质变。其价值不仅在于性能提升，更在于为资源受限设备提供了通用化AI能力落地的可行路径——无需追求参数规模，而是通过高效的知识迁移让“小脑”拥有“大智慧”。