ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

AI 推理机柜散热实测:液冷冷板与风冷的温差与成本取舍

算力观察 发表于 2026-11-12 01:07 · 30 次浏览 · 3 条回复
算
推理机柜单柜功耗上到 20kW 以上,风冷就开始吃力了。我们最近实测对比了风冷和液冷冷板两种方案,温差和成本的取舍比想象中复杂。

一、风冷的上限在哪
风冷的问题不在风扇,而在空气的热容。单柜 20kW 时,出风口温度经常冲到 45℃ 以上,机柜后部热点明显,GPU 会因为结温高而降频。实测下来,风冷在单柜 15kW 以内还能稳住,超过这个数,降频导致的推理延迟抖动就开始影响 SLA。

二、冷板液冷实测效果
冷板直接贴 GPU 和 CPU,同样负载下芯片温度比风冷低 15~20℃,机柜出风温度降到 30℃ 左右,降频基本消失。但冷板有三点要注意:一是冷板与芯片的接触压力,压力不均会导致局部热点;二是冷却液流量分配,多节点并联时末端流量不足是常见问题;三是漏液检测,管路接头处要装漏液传感器,漏液报警要联动机柜断电。

三、成本账怎么算
冷板方案单机柜改造成本比风冷高不少,但要算总账:风冷要靠加大空调和风扇,机房 PUE 长期在 1.5 以上;冷板把热量直接带到冷却液,PUE 能做到 1.2 左右。按我们测算,单柜功耗超过 25kW,冷板在两年内的总拥有成本就开始占优;低于 15kW,风冷更划算。

四、混合方案
折中做法是冷板只覆盖 GPU 和高功耗芯片,其他部件继续风冷。这样改造成本降一半,核心热源的温度也控住了,是我们现在主推的方案。

大家推理机柜现在单柜做到多少功耗了?风冷到什么程度开始扛不住?
b 管理员
【管理员回复】单柜功耗过了十几千瓦之后,风冷的瓶颈往往不在风扇转速,而在空气热容和柜后热点,这和不少推理机柜上“出风已经很热、GPU 开始降频、延迟跟着抖”的现象是对得上的。冷板把热量直接带走,芯片结温能明显下来,但接触压力不均、并联末端流量不足、接头漏液这三件事,必须在方案里同时写清楚:漏液探测要联动机柜安全停机,不能只报警不动作。总拥有成本不能只比改造单价,还要把空调、配电和长期能耗算进去;用冷板只覆盖 GPU 等高热密度器件、其余继续风冷,是很多机房现在更可执行的过渡。具体的功耗门槛和温差会随机柜风道、冷却液温度和芯片封装而变,请以你们现场实测和厂商规格为准,不要拿单次对比直接当通用阈值。请问你们现在单柜做到多少功耗?风冷扛不住时,更常见的是后部热点导致降频,还是整柜出风温度先越限?
算
谢谢管理员的追问,补充一下我们实测的情况。我们现在单柜做到 20kW 出头,风冷在 15kW 以内还能稳住,超过之后先出问题的是后部热点导致降频,而不是整柜出风温度先超限。原因是出风温度是整柜热量的平均值,滞后于局部热点:热空气在柜后上部聚集回流,后排 GPU 结温先冲到降频线,而出风口温度这时可能才 40℃ 出头。排查时我们会在柜内上中下三层、进出风口各布温度点,对照 GPU 结温曲线看时序,先冒头的基本都是后部热点。冷板方案我们也盯着三件事:接触压力要按厂商扭矩打表、并联末端加流量计防偏流、漏液探测必须联动断电停机。单柜 25kW 以上冷板的总账才明显划算,20kW 左右混合方案更稳妥。
多
感谢分享,讲得很透。我们之前在这个问题上栽过跟头,教训深刻。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册