如今，人工智能服务器主要采用液冷散热。由于空气冷却已无法有效带走高密度人工智能机架的热量，因此，压在处理器上的冷板、机架后部的散热交换器，以及完全浸入非导电液体中的冷却方式都已成为主流。无论采用何种冷却方式，热量的传递路径都是固定的：它离开硅芯片，穿过一层薄薄的热界面层，进入金属冷板或冷却液，最终排出机房。了解这一路径以及每种冷却方式的作用，就能解释为什么业界已经从风扇冷却转向液冷冷却。.
为什么在人工智能机架高密度配置下，空气冷却会失效？
在人工智能高密度应用中，风冷散热已无法满足需求，因为每个机架产生的热量远远超过了空气流动所能有效散热的能力。传统的企业级机架功耗约为 8 至 10 千瓦。而如今，人工智能训练机架的功耗已达到 100 千瓦甚至更高，单个加速器的功耗也从几百瓦飙升至超过 1000 瓦。据 IEEE Spectrum 报道，NVIDIA 的 Blackwell GPU 单颗功耗高达约 1200 瓦。在如此高的芯片密度下，要让足够的冷空气流过芯片，意味着在芯片达到理想温度之前，风扇就需要消耗大量的功率并产生巨大的噪音。.
气流是首先达到瓶颈的特定因素。空气的热容量低，因此要去除更多热量就需要移动更多空气，而所需的风量增长速度超过了高密度机架内部的空间和风扇功率。超过某个临界点后，风扇消耗的功率比例会越来越高，气流不均匀的地方会形成热点，处理器会开始降频以保护自身。这就是人工智能硬件遇到的瓶颈，也是为什么问题从如何用空气冷却人工智能服务器转变为使用哪种液体冷却方式的原因。.
从物理角度来看，液体冷却优势显著。IEEE Spectrum 指出，水的单位体积吸热量是空气的 3000 倍，导热性能也比空气好约 20 倍。因此，液冷回路能够将芯片的结温保持在远小于空气冷却的温差范围内。冷却成本也不低。据一些运营商估计，冷却成本可能占到数据中心总用电量的 40% 左右。这种效率直接影响运营成本，进而影响到在相同功耗下，一个数据中心能够部署多少计算资源。.
热传递路径：从GPU核心经由导热界面材料到达冷板
所有冷却方法都始于同一个瓶颈：如何将芯片产生的热量传递到芯片或其盖板与冷却硬件之间的微小缝隙中。这个缝隙永远不可能完全平整，因此需要一层薄薄的…… 热界面材料 它会填充冷板或散热器，并用导电通路取代绝缘空气。如果这种界面不良，无论下游回路多么冷，都无法足够快地将热量带走，导致处理器降频。.
界面至关重要，因为热阻会沿着散热路径串联累积。热量必须先穿过芯片与盖板的连接处、界面层以及冷板壁，才能到达冷却液，而最薄弱的环节决定了散热能力的上限。即使使用大型低温冷板，也无法弥补芯片正下方界面不良的问题。因此，界面层虽然只有几分之一毫米厚，却被视为设计变量，而非事后考虑的因素。.
接口的选择取决于装配方式，而不仅仅是冷却剂。较大或不均匀的间隙通常用柔性间隙填充物来桥接。 导热垫 选择合适的材料取决于其承受安装压力和保持平整度的能力，而薄而平的盖板则可能使用导热膏或相变膜。具体的导电性和厚度取决于材料和安装方法，没有哪个单一的零件编号能够保证这些参数不变。像 Trumonytechs 这样的元器件供应商专注于这一层面，根据特定封装的间隙、组装应力和热负荷来匹配冷板和界面材料。同样的界面工程也适用于电池组的冷却。.
芯片级（冷板）液冷
对于高密度人工智能机架而言，芯片级直接冷却是主流方案：一块带有内部通道的金属冷板直接放置在每个处理器上，并将冷却液输送到距离热源几毫米的位置。公开的生产系统数据显示，这种方式捕获的机架热量约占70%至90%（TP4T），而内存和电源级产生的残余热量仍由空气进行处理。冷却液通常是添加了乙二醇的水，以防止结冰、腐蚀和生物滋生，然后通过冷却液分配单元（CDU）排出室外。.
CDU（冷却分配单元）是使该方案能够大规模应用的关键边界。它将接触芯片的洁净、可控冷却回路与外部设施用水隔离，并通过歧管将冷却液分配到每个机架。这样，操作人员就可以将芯片侧的冷却回路温度设定为服务器所需的温度，而设施侧则通过干式冷却器或冷水机散热。由于冷却回路保持密封，冷却液可以循环利用而不是被消耗，并且该设计将泄漏检测和快速断开接头作为标准配置。.
单相直接芯片
单相直达芯片冷却系统全程保持冷却液液态，以更高的流量换取更简单的循环回路。冷却液进入冷板，升温后不沸腾流出，这使得系统结构简单，但需要持续泵送。例如，NVIDIA 的温水冷却系统采用约 75% 水和 25% 丙二醇的混合液，在闭环系统中可容纳高达 45°C 的冷却液。这种温水冷却方式使得许多场所能够使用干式冷却器而非耗能的冷水机组来散热。.
两相直接芯片
双相直接芯片冷却技术利用冷却剂在高温表面上沸腾，通过蒸发潜热在单位流量下转移更多热量。IEEE Spectrum 杂志报道，双相冷却方法的冷却能力是单相液体冷却的十到百倍，而流量却远低于后者。但其缺点是需要更复杂的密封系统，并且必须仔细选择和控制冷却剂。.
后门热交换器和混合式空液冷却
后门式热交换器冷却的是机架排出的空气，而不是芯片本身，因此对于现有的风冷机房来说，它是最简便的液冷方案。液冷盘管取代了机架的后门，服务器自身的风扇将热废气吹过盘管，冷却水在废气重新进入机房之前将其带走。据报道，每个机架的散热能力可达约 75 kW，足以在不为每个芯片都铺设冷却液的情况下，将风冷机房扩展到中等人工智能密度。被动式后门依靠服务器风扇散热，而主动式后门则需要额外配备风扇以获得更大的散热空间。.
混合式设计将芯片级散热板与风冷或后门散热相结合，安装在同一机架中。散热板承担GPU和CPU的集中散热任务，而风冷则用于处理低功耗组件。当服务器无法一次性全面采用液冷散热时，这通常是一种切实可行的方案。.
浸入式冷却
浸没式冷却技术将整个服务器浸入非导电的介电液体中，无需风扇和芯片级散热管路。由于液体与每个组件都接触，热量会均匀地从电路板的每个表面散发出去，而不是通过单一的散热板，这使得服务器能够在紧凑的空间内实现极高的散热密度。移除风扇也消除了一个常见的故障点，并大大降低了噪音，同时还释放了原本用于安装风扇和散热片的空间。但这种技术也带来了一些弊端，例如需要不同的硬件、新的维护流程以及液体处理方式。维护电路板意味着需要将其从冷却液中取出，操作人员甚至需要更换一些标准的导热界面材料，因为这些材料会随着时间的推移在液体中老化。.
单相浸入式
单相浸没式冷却系统保持介质液体的液态，并将其泵送至外部热交换器。该方法结构简单，无需风扇，但仍需循环和定期进行流体检测以确保可靠性。.
两相浸入式
两相浸没式冷却技术利用潜热使流体从组件中沸腾蒸发，并在储罐上方的冷却盘管上冷凝，从而实现极高的热通量。工程介电流体的配方使其沸点较低，据报道大致在 34 至 56 °C 范围内，因此组件温度保持在可控范围内。流体成本和密封性是主要的限制因素。.
根据货架密度选择合适的冷却方式
散热方式的选择主要取决于机架的功率密度，而非其他任何单一因素。风冷和后门冷却仍然适用于低密度机架。一旦机架的功率密度超过风冷散热能力的极限（通常在几十千瓦左右），芯片直接散热就成为默认选择。浸没式散热则用于功率密度最高、空间最受限的机架。任何部署的关键在于确定热量实际集中在何处，以及接口和冷板设计能否在目标结温下有效散热。.
然而，密度并非唯一的影响因素。改造现有风冷机房还是新建机房，都会影响最终结果。后门式和混合式设计可重复利用现有机架和气流，而全芯片直冷和浸没式冷却则需要相应的管道、冷却分配单元 (CDU) 以及经过液冷培训的人员。可用设施的水温也至关重要：能够使用较高温度冷却液的设计可以采用干式冷却器而非冷水机组，而液冷的效率很大程度上正是来源于此。不变的是，任何冷却方法都无法绕过热传递路径。在选择周围冷却回路之前，必须根据实际热负荷验证每个芯片下方的界面材料和冷板设计。.
| 方法 | 它如何利用热路径 | 典型合身 | 主要权衡 |
|---|---|---|---|
| 空调/精密空调系统 | 将冷空气吹过散热器。 | 低密度机架 | 功率储备不足，功率达到几十千瓦时就捉襟见肘了。 |
| 后门热交换器 | 利用液冷盘管冷却机架排气。 | 中等密度、空冷式改造 | 仍然取决于芯片处的服务器风扇。 |
| 直接芯片冷板 | 液体通过冷板流向距离芯片几毫米处。 | 密度最高的AI机架（100千瓦以上） | 每个芯片都需要冷板、CDU 和 TIM。 |
| 浸没 | 整个服务器浸没在介电液中 | 最高、空间受限的密度 | 不同的硬件、流体处理、维护 |
结论
简而言之，AI 服务器的冷却方式是将热量转移到靠近芯片的液体中，冷却距离取决于芯片的功率密度：大多数 AI 机架采用冷板，扩展型风冷机房采用后门换热器，而极端情况下则采用浸没式冷却。关键在于根据机架的功率密度和热传递路径选择合适的冷却方式。最容易被忽略的一点是，液冷并非简单地更换冷却剂。芯片与冷板之间的界面、界面的平整度以及材质决定了任何冷却回路能否有效控制处理器温度。从芯片向外追踪功率分布，通常就能找到合适的冷却方式。.
常见问题
为什么风扇无法再为现代人工智能GPU散热？
风扇的散热能力有限，因为单个AI加速器的功耗可超过1000瓦，而机架的功耗可超过100千瓦。这远远超过了实际风扇在功率和噪音水平下所能带走的热量。液体的单位体积散热量远高于空气，因此它能以更小的温升维持结温。.
GPU和冷板之间是什么？
芯片和冷板之间有一层薄薄的导热界面层，用于填充微小的不均匀间隙，使热量能够传导而不是滞留在空气中。导热界面层的材料，无论是垫片、凝胶、膏状物还是相变膜，都需根据间隙大小、平整度和封装的安装压力来选择。.
芯片直接冷却与浸没式冷却有何不同？
芯片级直接冷却仅通过冷板冷却最热的组件，其余部分则由空气或其他循环回路进行冷却；而浸没式冷却则将整个服务器浸入介电液体中。芯片级直接冷却更容易改装到现有机架中，浸没式冷却虽然能实现更高的密度，但需要不同的硬件和流体处理系统。.
液冷技术能节约用水吗？
当液冷系统采用闭环循环而非干式冷却器时，由于冷却液循环利用而非蒸发，因此可以节约用水。实际节水效果取决于散热设计和气候条件，而不仅仅是冷板本身。.
机架密度达到什么程度需要液冷？
当机架密度攀升至数十千瓦时，液冷通常就变得必不可少，因为此时空气冷却已无法有效防止性能下降。具体的临界点取决于服务器、气流和进气条件，因此应根据每次部署情况进行验证，切勿想当然。.
延伸阅读
- 下一代人工智能需要液冷（IEEE Spectrum） — IEEE Spectrum，IEEE 专业工程机构的旗舰出版物。支持上文中使用的水与空气热容量比较以及单相与两相容量差异。.
- 液冷方案：RDHx、芯片级直接冷却、浸没式冷却（数据中心知识） — 知名数据中心行业出版物。支持对后门式、芯片级和浸没式等方法及其优缺点进行比较。.
相关文章
- 灌封胶 — 介绍了封装材料如何保护电子组件并使其散热，这在冷却设计还必须密封和机械支撑组件时非常有用。.
- 导热凝胶的用途是什么？ — 解释了导热凝胶在填充不均匀间隙的界面材料中的作用，本文指出，该界面层是决定性的。.
- 电脑散热膏的作用是什么？ — 详细讲解了散热膏在 CPU 和 GPU 接口处的工作原理，以及芯片与其冷板之间的微小间隙。.
- 何时使用导热凝胶？ — 有助于确定在给定间隙和安装条件下，凝胶何时比垫片或膏体更合适，从而扩展了此处的界面选择逻辑。.
- 哪种导热硅脂最好？ — 阐明如何根据目标结果和限制条件来判断“最佳”膏体，这在你了解不良界面会限制任何液体循环时非常有用。.
