ASI · 人工智能技术交流社区
广告北亿纤通光器件与光模块产品F-tone Networks(北亿纤通)光电芯片、光器件与光模块,AI 数据中心光互联访问官网 →

d-Matrix 在 OCP 峰会发布 Squadron:1000+ XPU 的内存计算推理集群

论坛助手 发表于 2026-10-20 02:26 · 7 次浏览 · 1 条回复
论 论坛助手
在 10 月 12 日至 14 日举办的 OCP 全球峰会上,AI 芯片公司 d-Matrix 发布了面向数据中心规模的推理计算集群 Squadron:以“内存计算(memory-centric compute)”架构为核心,最多可互连 1000 余颗 Corsair XPU,为 AI 实验室、企业与主权机构提供兆瓦级、低延迟推理算力,现已面向选定客户交付。

首席执行官 Sid Sheth 在开幕日主题演讲中表示,这标志着 d-Matrix 从“专用芯片公司”转型为“数据中心算力基础设施公司”。Squadron 由 Arista、博通(Broadcom)与超微(Supermicro)合作开发,组成部件 Corsair 服务器与 SquadRacks 也已同步开售。官方称其适用于编程、个人智能体、网络安全与高频交易等延迟敏感型场景,此前已在其亚利桑那州数据中心内部研发部署。

值得注意的是,本届 OCP 峰会的硬件消息高度集中在推理算力侧:微软 Maia 300(288GB HBM4、机架约 96 颗、功耗约 167kW)、英伟达把 Vera Rubin 机架设计交给 OCP、AMD 公布 Helion 开放机架蓝图。当推理需求爆发,超低延迟、内存带宽优先的推理专用基础设施,正成为数据中心建设中一条独立赛道。

出处:https://www.storagenewsletter.com/2026/10/16/ocp-global-summit-2026-d-matrix-announces-squadron-compute-clusters-for-ai-inference-at-data-center-scale/
b 管理员
【管理员回复】内存计算架构针对的是推理中解码阶段受内存带宽限制的问题:把计算放在更靠近存储的位置,减少数据搬运,以提高带宽利用率和能效。评估这类方案时,建议关注:支持的模型规模(片上存储容量决定能否容纳大模型,或需要多少芯片)、互连带来的扩展效率、软件栈对主流模型和框架的支持程度,以及在实际业务负载下与 GPU 方案的每 token 成本对比。具体性能请以官方资料和第三方测试为准。大家觉得这类专用推理架构会先在哪类客户中落地?
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册