AGX Station – 此芯科技发布的首款桌面级AI超算设备

AGX Station是此芯科技发布的首款面向智能体(Agent)计算的桌面级AI超算设备,本质是将高性能算力、开放硬件架构与智能体原生操作系统整合的标准化本地AI算力单元。通过150×150×60mm的微型体积实现70B-150B参数大模型原生本地推理能力,无需多卡拆分或云端依赖,同时支持异构算力卡自由扩展,将企业级AI超算从机房搬至办公桌面,显著降低大模型私有化部署门槛。

AGX Station - 此芯科技发布的首款桌面级AI超算设备

AGX Station核心特点

1. 微型化高密度算力设计

  • 极致紧凑体积:整机尺寸仅150×150×60毫米,可直接置于办公桌面,无需专用机房或散热设施
  • 原生支持大模型推理:单机可直接运行70B至150B参数规模的大模型(如Qwen2.5、Llama 3等),避免传统方案中因模型拆分导致的精度损失与通信延迟

2. 开放可扩展的硬件架构

  • 多形态算力卡兼容:支持M.2、MXM、PCIe三种主流AI加速卡,用户可根据需求自由搭配国产芯片(如天数智芯、后摩智能等)或通用显卡。
  • 算力弹性扩展:基础算力覆盖160TOPS至320TOPS,通过扩展卡可逐步升级,无需一次性投入高端配置

3. 智能体原生软硬件协同

  • 端到端Token计费闭环:配套自研Agentic OS 2.0操作系统,实现从本地推理到Token级资源计量与计费的全流程管理。
  • 多智能体协同调度:内置分布式任务引擎,支持多个智能体并行执行任务,并自动分配算力资源。

AGX Station技术原理

1. 自研P1芯片底层支撑

  • 6nm Arm架构SoC:集成12核Armv9.2 CPU(8×A720+4×A520)、10核GPU及独立NPU,原生AI算力45TOPS,内存带宽达100GB/s。
  • 低功耗高能效设计:单Token推理能耗较x86架构降低50%以上,适配长时间运行的智能体任务。

2. 异构算力调度机制

  • 统一资源管理框架:Agentic OS通过动态拆分模型计算任务,将不同算子分配至CPU、NPU或外接加速卡,最大化利用异构硬件性能
  • RDMA高速互联:集成双路10G RDMA网络接口,多台AGX Station可级联构建桌面集群,卡间通信延迟低于300毫秒

3. 本地化安全执行环境

  • 数据全链路闭环:所有推理任务在设备本地完成,敏感数据无需上传云端,满足金融、政务等强监管场景需求。
  • 四级权限管控:操作系统内置沙箱隔离机制与全链路审计功能,确保智能体执行过程“计划可审、动作可批”。

AGX Station核心功能

1. 大模型私有化部署

  • 免拆分原生推理:直接加载70B-150B参数模型文件,无需量化降精度或多卡调度,保障输出质量。
  • 多模型并行支持:可同时运行文本生成、图像识别等不同任务的模型,满足多智能体协同场景需求

2. 智能体开发与商业化

  • 一站式开发环境:提供标准化API与全流程工具链,支持智能体从开发、测试到部署的闭环。
  • Token计费变现能力:企业可将算力封装为服务,按调用次数向内部或外部用户收费,快速实现AI价值转化。

3. 跨场景适配能力

  • 端边云协同调度:支持将部分任务卸载至云端,平衡本地数据安全与算力弹性需求
  • 多终端互联扩展:通过微信配对即可联动手机、平板等设备,构建个人AI工作流网络

AGX Station应用场景

1. 企业级AI私有化落地

  • 金融与政务领域:用于“数字员工智能体”方案,实现业务流程提效80%以上,同时满足数据本地闭环审计要求
  • 中小企业本地算力中心:替代公有云服务,避免敏感数据外泄风险,降低长期使用成本。

2. 智能体研发与创新

  • 多智能体协同实验:为开发者提供低成本测试环境,验证复杂任务链(如工具调用、流程编排)的可行性。
  • 具身智能开发平台:连接机器人、工业设备,通过自然语言指令驱动机械臂执行操作

3. 垂直行业定制化部署

  • 创意内容生成:结合Qwen等模型,支持本地化文生图、视频生成,保障设计版权安全
  • 边缘AI推理节点:部署于工厂、门店等场景,实时处理4K视频分析、设备巡检等任务,响应延迟低于300毫秒。

AGX Station的核心价值在于重新定义本地算力的可用性与经济性:它并非单纯追求峰值算力,而是通过开放架构降低技术绑定风险,以微型化设计解决部署空间限制,最终让企业无需依赖云端即可获得可控、可计费、可持续的智能体算力。其技术路径直指Agent时代对本地化、低成本、高灵活性的核心需求,标志着AI基础设施从“参数竞赛”转向“任务交付能力”的关键演进。目前该设备已面向科研机构、中小企业及开发者开放,重点服务于大模型私有化部署与智能体应用落地场景。

© 版权声明
为这篇文章评分
10.0/ 10
1 人评价
点击⭐️进行评分

相关文章

暂无评论

none
暂无评论...