PhysisServe – 面向世界模型、具身智能场景的自回归去噪推理系统

PhysisServe是面向世界模型、具身智能场景的自回归去噪推理系统,针对大参数量模型与高频输出难以兼容的痛点开展设计。现有推理框架会随模型参数上涨拉高输出延迟,难以满足机器人控制、物理仿真对毫秒级输出间隔的硬性需求。该系统将计算单元拆解至stage粒度,实现单路流水线提速、单路算力时分复用、多路任务联合调度三层机制,33B 规模模型可实现毫秒级chunk输出间隔,支持多路业务共享GPU硬件资源,面向 ACWM、WAM 两类世界模型提供推理运行时。

PhysisServe - 面向世界模型、具身智能场景的自回归去噪推理系统

PhysisServe特点

采用 stage 作为调度最小单元,对应单次去噪步骤内单个 Transformer 模块,实现去噪步、模型层双向流水线。

稳态输出延迟取决于最慢 stage 的计算与传输耗时,模型参数量、去噪步数增长不会直接拉高输出间隔。

支持 stage 与物理 GPU 解耦,非极限延迟场景通过时分复用减少单路任务占用显卡数量。

虚拟 rank 动态放置机制,多路业务共享 GPU 池,已接入任务不会发生迁移,保障运行稳定性。

兼容 ACWM、WAM 两类主流世界模型范式,适配 Wan、LTX‑2.5、MiniMax H3 等多款开源主干。

不带权重剪枝、量化操作的原生模型即可跑出高频指标,调度层面挖掘硬件吞吐潜力。

PhysisServe技术原理

将自回归去噪完整计算流程拆解为大量独立stage任务,每个chunk沿着stage流水线依次流转,不同chunk 处于流水线不同位置,实现计算互相重叠。依靠带噪 KV cache 机制,后序 chunk 读取前序 chunk 同一步骤的未完成缓存,不用等待前一chunk全部完成去噪再启动计算。单路时分复用把多个 stage 映射至同一张 GPU,就绪任务执行合批,摊销权重加载、内核调度的固定开销。多路联合调度将单条流封装为虚拟 rank 单元,调度器按照 Best‑Fit 搭配 Limited Discrepancy Search 算法完成资源放置,只有整条流资源条件全部满足才接纳新请求。跨设备仅传递隐状态张量,KV cache 保留在本地显卡,传输与计算过程互相重叠,关闭全局同步逻辑降低等待开销。

PhysisServe项目地址

  • 项目官网:https://physis-ai.com/blog/physisserve
  • GitHub仓库:https://github.com/Physis-AI/PhysisServe

PhysisServe功能

单路高频推理,对世界模型做自回归去噪流水线推理,输出毫秒级间隔 chunk 流。

单路算力复用,业务 SLO 指标宽松时,减少单路任务占用 GPU 数目,提升硬件利用率。

多路任务联合调度,多组 ACWM、WAM 业务流共享同一个 GPU 资源池,提升并发路数。

模型适配,对接 ACWM 画面生成模式与 WAM 动作输出模式的世界模型主干。

性能评测统计,采集 chunk 输出延迟、并发流数量、硬件占用等运行指标。

任务资源管控,新流接入做资源校验,拒绝硬件条件无法达标的请求,保护已有业务 SLO。

PhysisServe应用场景

具身智能仿真环境,人形机器人、机械智能体闭环仿真,高频动作指令生成。

世界模型科研,ACWM、WAM 架构模型推理性能对照实验,流水线调度方案验证。

物理仿真推演,大规模环境时序预测,高频时序帧批量产出。

机器人控制原型,大参数量世界模型部署,生成高频动作控制序列。

多智能体仿真平台,同时运行多条世界模型业务流,多虚拟智能体并行交互。

PhysisServe同类产品对比

表格

对比项PhysisServeStreamDiffusionV2Wave Forcing
切分粒度Stage(去噪步 × Transformer Block)二维流水线Transformer Block去噪步
GPU 扩展上限去噪步数 × Block 数Block 总数量去噪步总数量
核心 KV 范式带噪 KV Cache,需要模型做专门微调干净 KV Cache,无需模型微调需配套三阶段混合噪声训练
单路性能特点算力充足时,输出延迟不随模型变大而恶化;33B 模型可做到 4.1ms chunk 间隔首帧 TTFF 表现好;模型越大,输出延迟明显上升长视频画面 / 主体保持效果好;大模型扩展性受限
多路并发能力支持虚拟 rank‑全局 GPU 池联合调度,可大规模多智能体并发支持多路,但资源静态划分,大规模并发弱偏向单路高质量生成,缺少多路调度器
主要短板新观测输入后的首次响应延迟高;带噪 KV 生态尚不成熟GPU 上限被 Block 数锁死GPU 上限受去噪步数约束
典型使用场景机器人闭环控制、ACWM/WAM 世界模型仿真训练AIGC 直播、交互式实时视频生成高质量长时序流式视频生成
© 版权声明
为这篇文章评分
10.0/ 10
3 人评价
点击⭐️进行评分

相关文章

暂无评论

none
暂无评论...