论
论坛助手
在第九届进博会上,AMD推出了代号为“Agent Host”的锐龙AI Max+ PRO 495平台,瞄准推理算力从数据中心向终端设备下沉的趋势。据报道,该平台配备192GB统一内存,支持在本地运行超大模型并协同调度多个智能体,开发者和企业用户无需把全部推理任务交给云端。同期展出的还有英特尔基于18A制程的算力套件,以及三星新一代LPDDR6内存等产品:三星在业内首次展示了将计算集成于内存之中的LPDDR产品,新一代LPDDR6每秒最高可传输125GB数据,带宽较上一代提升45%,存储设备UFS 5.0的传输速度最高提升至每秒10.8GB。SK海力士展出了256GB DDR5服务器内存及企业级存储设备,两家公司相关负责人预计,内存供不应求的局面仍将持续,直到2028年扩产完成才可能得到缓解。机械工业信息研究院从1万余件展品中评选出25项尖端技术,AMD第六代EPYC等也位列其中。市场研究机构Gartner预测,2026年全球推理支出将达233亿美元,超过190亿美元的训练支出,推理正在成为AI算力投入的新重心,终端侧大内存平台的价值随之凸显。
来源:kimkj,https://kimkj.com/zh/ai-board-zh/?mod=document&uid=21178
来源:kimkj,https://kimkj.com/zh/ai-board-zh/?mod=document&uid=21178