英伟达推出DSX MaxLPS,AI工厂能效迎来大幅提升

英伟达对外展示 DSX MaxLPS 技术方案,面向大规模 AI 算力集群优化能耗与产出比值。这套技术针对 AI 工厂的电力消耗、算力调度、推理负载分配做底层优化,在相同电力供给条件下,集群每兆瓦 token 吞吐量最高提升 40%。

DSX MaxLPS 依托硬件架构与集群调度协同设计,调整算力芯片、网络互联、供电散热之间的匹配关系。传统 AI 集群运行时,硬件资源容易出现负载不均衡,部分算力单元闲置,电力持续消耗。DSX MaxLPS 通过动态负载调度,压缩集群空载功耗,把电力资源倾斜到正在执行 token 生成任务的算力节点。

英伟达推出DSX MaxLPS,AI工厂能效迎来大幅提升

整套方案覆盖训练与推理两类业务场景。训练任务侧重大批次数据并行计算,推理侧处理持续流入的用户请求,两种场景的负载波动特征存在明显差异。DSX MaxLPS 内置多维度负载感知模块,实时识别集群内任务类型,动态调整芯片运行参数,控制单位 token 产出对应的电力开销。

大规模 AI 工厂是这项技术的主要落地场景。企业自建大模型推理集群、云厂商对外提供的模型 API 服务,都可以部署这套调度方案。高密度算力机房在引入 DSX MaxLPS 后,现有电力基础设施可以承载更多 token 输出,不用同步扩建供电线路与散热系统。

方案适配英伟达 DSX 系列整机柜产品,新上线算力集群可在部署阶段直接搭载,存量集群也可通过固件与调度组件更新完成适配。算力运营方可以借助该技术压低大模型业务的电力成本,提升机房硬件资产的产出上限。

© 版权声明
为这篇文章评分
0.0/ 10
0 人评价
点击⭐️进行评分

相关文章

暂无评论

none
暂无评论...