Hy-Embodied-VLM-1.0 – 腾讯发布的第二代具身视觉语言模型

Hy-Embodied-VLM-1.0是腾讯Robotics X实验室、福田实验室与腾讯混元团队发布的第二代具身视觉语言模型(VLM)基座模型,专为解决通用大模型在物理世界交互中的感知短板而设计。目标是让机器人具备精准理解三维空间、预测动作影响、动态适应复杂环境的能力,以轻量化参数(仅3B激活参数)实现接近上一代32B旗舰模型的性能,显著降低具身智能在工业与消费场景的落地门槛。

Hy-Embodied-VLM-1.0 - 腾讯发布的第二代具身视觉语言模型

Hy-Embodied-VLM-1.0核心特点

1. 轻量化与高性能的突破性平衡

  • 极小规模,超高性能:仅采用 A3B(激活参数30亿)规模,综合性能却接近上一代A32B旗舰模型,大幅降低端侧部署的算力需求。
  • 评测表现断层领先:在覆盖37项任务的具身能力评测中,综合平均得分65.6分,显著优于同规模的Qwen3.6-A3B、Cosmos 3-8B等竞品模型。

2. 分层递进的具身能力体系

  • 模型能力严格划分为 物理状态理解、动作-变化推理、时序与自适应推理 三大维度,针对性强化机器人在真实场景中的感知与决策链路。
  • 动作-变化推理(64.1分)与时序自适应推理(57.4分) 等高难度任务中表现尤为突出,验证其对动态物理环境的适应能力。

3. 全量开源与生态友好

  • 模型权重、推理代码及技术报告全部开源,支持开发者直接用于机器人控制、工业自动化等场景的二次开发,加速技术普惠。

Hy-Embodied-VLM-1.0技术原理

1. 非共享混合Transformer架构(MoT)

  • 视觉与语言参数解耦:复制语言模型的FFN与QKV参数,为视觉分支设计独立参数和双向注意力机制,避免通用模型中视觉-语言任务相互干扰的问题。
  • 视觉隐令牌技术:在视觉序列末端添加可学习隐令牌,通过大模型全局特征监督,强化视觉与语言模态的对齐能力,提升细粒度空间关系理解。

2. 原生分辨率视觉编码器(HY-ViT 2.0)

  • 支持任意分辨率图像输入,无需裁剪或缩放即可精准捕捉微小零件、远距离物体等关键细节,适配工业场景的高精度需求。
  • 通过大模型蒸馏实现高效视觉表征,在轻量化参数下仍能解析深度信息与空间拓扑关系。

3. 亿级具身专项数据与自进化训练

  • 数据构建:整合超亿级具身交互数据,覆盖2D/3D检测、深度估计、轨迹预测、任务规划等全维度任务,针对性补强物理世界交互短板。
  • 训练范式:采用迭代自进化后训练,结合监督微调强化学习与拒绝采样,交替优化模型的推理与行为能力;通过大到小的在线策略蒸馏,将32B大模型的长链推理能力迁移至3B小模型。

Hy-Embodied-VLM-1.0核心功能

1. 高精度物理世界状态感知

  • 精准识别物体属性、深度信息、空间遮挡关系及环境可供性(Affordance),构建与任务强相关的物理世界状态表征,例如分辨“可抓取区域”与“危险接触面”。

2. 动作-因果推理与动态规划

  • 预测动作执行结果:结合人机交互语义与任务约束,判断动作可行性及局部物理影响(如“推倒A物体是否会导致B结构坍塌”)。
  • 多步规划与动态修正:支持长时程任务的视觉语言导航、历史记忆维护、失败诊断与反事实分析,根据环境反馈实时调整策略。

3. 端到端任务闭环执行

  • 从环境感知直接输出目标定位、轨迹规划与动作指令,无需额外模块拼接,实现“理解-推理-行动”的完整闭环。

Hy-Embodied-VLM-1.0应用场景

1. 工业柔性制造

  • 精密装配与分拣:在无序堆叠零件场景中,精准识别目标物体的空间姿态与操作约束,引导机械臂完成高公差要求的装配任务。
  • 动态巡检运维:结合四足机器人或无人机,实时分析设备状态(如仪表读数、管道泄漏),自主生成故障诊断报告并规划修复路径

2. 服务机器人交互

  • 家庭场景:理解模糊指令(如“把桌上的红色杯子递给我”),在动态环境中定位目标并规划安全抓取路径,避免碰撞或打翻周围物品
  • 商业服务:在超市、仓库等场景中,根据任务约束(如“轻拿易碎品”)动态调整抓取力度与移动轨迹。

3. 具身智能体开发底座

  • 作为VLA(视觉-语言-动作)系统的感知核心,为开发者提供开箱即用的物理世界理解能力,快速训练适配人形机器人、无人机等硬件的控制策略。
  • 显著降低研发成本:中小制造企业无需从头构建具身数据集,可直接基于开源模型微调适配产线需求。

最后想说

Hy-Embodied-VLM-1.0的突破在于将具身智能的性能门槛从“大模型专属”拉至“端侧可用”级别,通过架构创新与数据专项优化,使轻量级模型也能可靠支撑工业级物理交互。其轻量化部署能力动态环境适应性,为机器人在非结构化场景(如家庭、工厂车间)的规模化落地提供了关键技术支撑,但需注意:复杂任务仍需结合RxBrain-1.0等认知模型,方能实现完整决策闭环。对于开发者而言,开源策略大幅降低了技术试错成本,可优先用于工业分拣、巡检等结构化程度较高的场景验证效果。

© 版权声明
为这篇文章评分
10.0/ 10
1 人评价
点击⭐️进行评分

相关文章

暂无评论

none
暂无评论...