Hy4 – 腾讯混元新一代MoE旗舰大模型

Hy4是腾讯混元全链路自研的MoE混合专家旗舰基座大模型，总参数量770B，单token激活49B参数，最大输入上下文960K，最大输出64K，迭代自Hy4‑preview版本。模型新增原生视觉理解与电脑操作能力，扩展预训练、后训练的数据规模，强化指令跟随、长链路智能体、代码工程、专业软件处理能力，面向真实生产力任务打磨，后续将开放权重发布，可通过腾讯云API、WorkBuddy、CodeBuddy、元宝等产品完成调用体验。

Hy4特点

MoE混合专家架构，每次推理仅激活部分专家参数，平衡大模型能力与推理开销。

原生多模态融合，支持细粒度图像解析、图表拆解、视觉数学推理。

具备电脑操作能力，可操作图形界面与命令行，适配跨应用长链路任务。

针对Blender、CAD等专业软件做专项样本训练，提升专业工程任务完成质量。

百万级上下文窗口，完整读取大型代码库、多章节文档，长任务保持逻辑连贯。

兼容OpenAI格式 API，企业业务可以直接复用现有调用脚本接入。

Hy4技术原理

主干采用多层 MoETransformer 结构，大部分前馈层设置多组专家子网，路由模块根据输入内容选择对应专家参与计算。新增视觉编码子模块，将图像信息转换和文本对齐的 token 序列送入主干网络。后训练环节引入大量真实世界长轨迹样本、电脑 GUI 操作样本、专业软件交互样本，强化多步骤任务规划与纠错能力。内部投机解码模块提升生成吞吐，长上下文模块做分片注意力优化，降低超长序列计算开销。整套训练依托腾讯自研算力集群完成，对齐真实办公、工程、科研场景的任务分布。

Hy4项目地址

• 项目官网：https://hy.tencent.com/research/hy4

Hy4功能

长文档、大型代码库读取解析，完成项目重构、bug 排查、测试脚本编写。

图片、图表、公式类素材解析，开展视觉推理、数据提取、问题解答。

电脑 GUI 与命令行操作，执行跨软件串联的复杂工作任务。

专业软件相关任务，输出 Blender、CAD 配套操作指引与工程脚本。

多工具链式调用，串联各类外部工具完成科研、办公、数据分析工作。

长文本创作、方案撰写、行业分析，输出完整结构化业务文稿。

Hy4应用场景

软件研发团队，做大型项目开发、代码重构、疑难 bug 定位。

办公自动化，跨软件完成报表处理、文档整理、业务流程执行。

科研方向，长序列实验、多模态任务、电脑操作智能体算法对照实验。

设计行业，CAD、Blender 相关辅助工作流，图纸与素材配套方案生成。

企业业务，文档解析、行业研究、方案生成，搭建内部 Agent 工作流。

个人开发者，借助 API 接入自有程序，完成复杂生产力任务。

Hy4如何使用

访问官网研究页面查阅 Hy4 技术资料与模型卡片。

进入WorkBuddy、CodeBuddy或者元宝产品，登录账号直接在线体验。

企业开发者前往腾讯云控制台开通服务，获取 API 访问密钥。

选用兼容OpenAI的调用格式，填入接口地址、密钥、模型标识发起请求。

传入文本、代码或者图片素材，开启工具调用、电脑操作对应能力开关。

长任务场景上传完整文档、代码包，配置上下文参数提交任务。

记录调用日志，观察多步骤任务执行轨迹，调整提示词优化输出效果。

权重开源之后，下载权重文件，配置 PyTorch 推理环境做本地部署调试。

Hy4同类产品对比

表格