Hy3 – 腾讯混元发布的新一代开源大语言模型

腾讯混元Hy3是腾讯发布的新一代开源大语言模型,采用合专家(MoE)架构,在保持较小激活参数量的同时实现与更大尺寸旗舰模型相当的性能。高性价比的实用型模型,重点强化了Agent能力、推理稳定性及办公自动化场景的落地效果,已通过Apache 2.0协议开源并接入腾讯多款核心产品。

Hy3 - 腾讯混元发布的新一代开源大语言模型

Hy3技术原理

1. MoE混合专家架构

  • 稀疏激活机制:Hy3总参数量达2950亿,但推理时仅动态激活210亿参数。通过门控网络为每个输入token选择最相关的专家子网络,显著降低计算成本,同时保留大规模参数的知识容量
  • 共享专家与路由专家协同:模型包含共享专家(处理通用任务)和路由专家(专注特定领域),通过动态路由机制分配任务,避免冗余计算。部分资料提及采用随机补偿路由策略,将因专家负载过高的token重新分配至空闲专家,提升训练稳定性

2. 快慢思考融合机制

  • 双模式推理:支持“快速思考”(即时响应简单任务)和“深度思考”(复杂任务分步推理),兼顾效率与精度。例如在代码生成或长文档处理中,模型会主动拆解步骤并验证逻辑连贯性
  • 长上下文优化:原生支持256K上下文长度,结合指代消解与省略还原技术,确保长对话中意图不衰减。内部评测显示,多轮问题率从17.4%降至7.9%,长对话理解能力(MRCR)从42.9%提升至75.1%

3. 抗幻觉与知识约束

  • 细粒度数据清洗:针对长文本和搜索场景的幻觉问题,通过多源证据校验训练约束,要求模型“有依据才回答、无依据明示缺失”,避免逻辑矛盾或虚构信息。
  • 效果提升:幻觉率从preview版的12.5%降至5.4%,常识错误率从25.4%降至12.7%,显著减少“张冠李戴”或无中生有现象

Hy3核心功能特点

1. Agent能力质变

  • 工具调用稳定性:系统稳定性达95.1%,盲目重试、应止未止等无效操作大幅减少,复杂办公任务可一步规划到位
  • 多步骤工作流优化:在Marvis Agent的文件编辑、电脑诊断等场景中,任务完成率提升至93.7%(较preview提升12.7%);6个Agent协作时任务派发正确率达92%
  • 推理质量提升:知识库问答的推理质量净提升近19%,信息覆盖更全面,长文写作与方案生成的结构完整度明显增强

2. 生产力场景专项优化

  • 办公自动化:可自主完成资料读取、信息提炼、内容撰写及多工具协同输出,报告撰写、数据整理等连续工作流执行稳定性显著提升。WorkBuddy中任务解决率从72%升至90%,平均耗时缩短34.4%
  • 代码与前端开发:在SWE-bench等编程基准中表现突出,能稳定生成、调试及排错代码,前端开发全链路效率提升。内部盲测中,Hy3在前端、数据存储、CI/CD等类别均优于GLM5.1
  • 多模态文件生成:元宝等产品中支持通过对话直接生成PPT、Excel、PDF、HTML等文件,用户仅需描述需求即可触发自动任务拆解与交付

3. 高性价比实用设计

  • 成本控制:API定价为输入1元/百万tokens、输出4元/百万tokens,输入命中缓存价格低至0.25元/百万tokens,显著低于同类模型
  • 真实场景验证:基于腾讯内部270位专家的真实工作盲测,Hy3均分2.67/4,在前端开发等生产力任务中表现优于GLM5.1(均分2.51/4)

Hy3项目地址

  • 项目官网:https://hy.tencent.com/research/hy3
  • GitHub仓库:https://github.com/Tencent-Hunyuan/Hy3
  • HuggingFace模型库:https://huggingface.co/tencent/Hy3

Hy3实际应用效果

1. 腾讯生态深度整合

  • 微信场景:公众号AI分身的意图识别准确率达98.94%,能结合账号定位理解不完整表达,避免机械套模板
  • 游戏与阅读:WeGame中《流放之路:降临》AI助手的多轮推理成功率提升至92%,幻觉率从4.5%降至2.8%;微信读书的标签标注准确率提高14.1%

2. 开发者友好性

  • 开源与部署:采用Apache 2.0协议开源,支持Hugging Face、ModelScope等平台调用,并适配海光DCU、天数智芯等国产算力
  • 缓存机制优化:高频重复请求可通过缓存命中大幅降低延迟与成本,适合企业级长周期任务

3. 与preview版关键升级

  • 稳定性提升:任务解决率、多轮对话连贯性、工具调用错误恢复能力显著优化。
  • 幻觉抑制:通过细粒度训练约束,常识错误率与幻觉率均下降超50%
  • 场景泛化:跨脚手架(如CodeBuddy、Cline)的性能标准差控制在4个百分点内,减少环境适配成本

Hy3同类竞品对比

表格
对比维度腾讯混元 Hy3DeepSeek-V3
开发商腾讯混元团队深度求索 DeepSeek
模型架构MoE 快慢思考融合架构MoE + MLA 多头潜在注意力架构
总参数量295B(2950 亿)671B(6710 亿)
激活参数量21B(每次推理激活约 7%)37B(每次推理激活约 5.5%)
上下文长度最高 256K tokens128K tokens
开源协议Apache 2.0(商业友好度极高)MIT(完全开源免费商用)
核心能力侧重Agent 智能体、代码工程、中文理解、指令遵循数学推理、多语言均衡、训练效率、长链推理
代码基准成绩SWE-Bench Verified 74.4%(逼近 Claude Opus)SWE-Bench Verified 约 65%
API 定价输入 1 元 / 百万 tokens,输出 4 元 / 百万 tokens输入 0.5 元 / 百万 tokens,输出 2 元 / 百万 tokens
工程落地能力强,原生支持 Vibe 编程、全流程开发、前端建模中等,通用能力均衡,垂直场景需二次微调
中文优化程度深度优化,中文对话与创作体验领先良好,中英文能力相对均衡
适用场景企业级 Agent 开发、代码自动化、中文内容生产、智能客服科研数学推理、通用大模型底座、多语言应用
优势总结高性价比工程之王,Agent 与代码能力国产第一梯队,中文生态完善开源社区标杆,数学推理突出,训练成本极低,生态工具链最成熟

Hy3将MoE架构的参数效率与真实业务场景深度结合,通过稀疏激活降低推理成本,同时以针对性优化解决办公、代码等生产力场景中的稳定性与幻觉问题。其价值不仅体现在技术指标上,更在于快速接入腾讯内部产品并验证实用效果,例如元宝的免费文件生成、WorkBuddy的任务自动化等,标志着大模型从“能回答问题”向“能完成任务”的关键演进。

© 版权声明
为这篇文章评分
10.0/ 10
2 人评价
点击⭐️进行评分

相关文章

暂无评论

none
暂无评论...