[email protected]+86 135 8486 2808Suzhou, China
Trumonytechs Notícias

Como os servidores de IA são resfriados?

Enviar e-mail a um engenheiro
Racks de servidores de IA com refrigeração líquida em um data center, mostrando como os servidores de IA são resfriados a mais de 100 kW por rack.

Atualmente, os servidores de IA são resfriados principalmente por líquidos. Placas frias pressionadas contra os processadores, trocadores de calor na parte traseira do rack ou imersão completa em um fluido não condutor tornaram-se comuns porque o ar sozinho não consegue mais dissipar o calor de um rack de IA denso. O calor segue um caminho fixo, independentemente do método. Ele sai do chip de silício, atravessa uma fina camada de interface térmica, entra em uma placa fria de metal ou em um fluido refrigerante e, finalmente, sai do edifício. Compreender esse caminho e onde cada método de resfriamento o utiliza explica por que a indústria migrou de ventiladores para fluidos.

Por que o resfriamento a ar se torna ineficaz em racks de IA de alta densidade?

O resfriamento a ar falha em densidades de IA porque o calor por rack ultrapassou a capacidade de dissipação prática do ar em movimento. Um rack empresarial convencional consome entre 8 e 10 kW. Os racks de treinamento de IA agora atingem 100 kW ou mais, e a potência por acelerador subiu de algumas centenas de watts para bem mais de 1.000 W. As GPUs Blackwell da NVIDIA consomem até aproximadamente 1.200 W cada, de acordo com a IEEE Spectrum. Impulsar ar frio suficiente sobre os chips nessa densidade significa um consumo de energia impraticável por parte dos ventiladores e ruído excessivo muito antes de o silício atingir uma temperatura ideal.

O fluxo de ar é o limite específico que se esgota primeiro. O ar tem baixa capacidade térmica, então remover mais calor significa movimentar mais ar, e o volume necessário aumenta mais rápido do que o espaço e a potência dos ventiladores disponíveis dentro de um rack denso. A partir de certo ponto, os ventiladores consomem uma parcela crescente do orçamento de energia, formam-se pontos quentes onde o fluxo de ar é irregular e os processadores começam a reduzir a velocidade para se protegerem. Esse é o limite que o hardware de IA atinge, e é por isso que a questão mudou de como resfriar servidores de IA com ar para qual método de resfriamento líquido usar.

As leis da física favorecem os líquidos por uma ampla margem. A revista IEEE Spectrum observa que a água pode absorver cerca de 3.000 vezes mais calor por unidade de volume do que o ar e conduz calor aproximadamente vinte vezes melhor. É por isso que um circuito de refrigeração líquida mantém a temperatura de junção de um chip com uma diferença de temperatura muito menor do que o ar jamais conseguiria. O resfriamento também representa um custo significativo. Segundo algumas estimativas de operadores, ele pode representar até cerca de 401 TP/4T da eletricidade de um data center. Essa eficiência influencia diretamente o custo operacional e, consequentemente, a capacidade de processamento que um site pode instalar com a mesma capacidade de geração de energia.

O Caminho do Calor: Do chip da GPU através dos materiais da interface térmica até a placa fria.

Todos os métodos de resfriamento começam no mesmo gargalo: dissipar o calor do chip e transferi-lo através do minúsculo espaço entre o die ou sua tampa e o hardware de resfriamento. Esse espaço nunca é perfeitamente plano, portanto, uma fina camada de materiais de interface térmica preenche o espaço e substitui o ar isolante por um caminho condutor até a placa fria ou dissipador de calor. Quando essa interface é ruim, nenhum circuito subsequente, por mais frio que esteja, consegue dissipar o calor com rapidez suficiente, e o processador reduz sua frequência.

Diagrama do caminho térmico para resfriamento de servidores de IA, desde o chip da GPU através do material de interface térmica até a placa fria, o líquido refrigerante e a unidade de resfriamento.

A interface é importante porque as resistências térmicas se acumulam em série ao longo do caminho do calor. O calor precisa atravessar a junção entre o chip e a tampa, a camada de interface e a parede da placa fria antes de atingir o líquido refrigerante, e o elo mais fraco define o limite. Uma placa fria grande e de baixa temperatura não consegue compensar uma interface deficiente diretamente sob o chip. É por isso que a camada de interface, embora tenha apenas uma fração de milímetro de espessura, é tratada como uma variável de projeto, e não como uma consideração posterior.

A seleção da interface segue a montagem, e não apenas o fluido refrigerante. Folgas maiores ou irregulares geralmente são preenchidas com calços conformáveis ou almofadas de espaço térmico A escolha dos materiais depende de como eles lidam com a pressão de montagem e a planicidade, enquanto tampas finas e planas podem usar pastas ou filmes de mudança de fase. A condutividade e a espessura específicas dependem do material e do método de montagem, e nenhum código de peça único as define. Fornecedores de componentes, como a Trumonytechs, trabalham nessa camada, adequando placas frias e materiais de interface à folga, à tensão de montagem e à carga térmica de um determinado encapsulamento. A mesma engenharia de interface rege o resfriamento de baterias.

Resfriamento líquido direto no chip (placa fria)

O resfriamento direto no chip é a abordagem dominante para racks de IA de alta densidade: uma placa fria de metal com canais internos fica posicionada diretamente sobre cada processador e transporta o líquido refrigerante a poucos milímetros da fonte de calor. Descrições públicas de sistemas de produção indicam que a porcentagem de calor do rack capturada dessa forma varia entre 70 e 90 TP4T, enquanto uma pequena quantidade de ar ainda lida com o calor residual da memória e dos estágios de potência. O líquido refrigerante geralmente é água com adição de glicol para evitar congelamento, corrosão e crescimento biológico, sendo então direcionado através de uma unidade de distribuição de líquido refrigerante (CDU) para dissipação de calor externa.

Placa fria de contato direto com o chip, montada em um acelerador de IA, com conexões para refrigeração de alta densidade em racks.

A Unidade de Distribuição de Refrigerante (CDU) é o elemento que torna a abordagem viável em larga escala. Ela isola o circuito limpo e controlado que entra em contato com os chips da água externa da instalação e distribui o fluxo para cada rack através de manifolds. Os operadores podem então manter o circuito do lado dos chips na temperatura ideal para os servidores, enquanto o lado da instalação dissipa o calor através de resfriadores a seco ou chillers. Como o circuito permanece selado, o mesmo fluido refrigerante recircula em vez de ser consumido, e o projeto inclui detecção de vazamentos e conexões de desconexão rápida como itens de série.

Monofásico com conexão direta ao chip

O sistema monofásico de refrigeração direta ao chip mantém o fluido refrigerante líquido durante todo o percurso, sacrificando um fluxo maior em prol de um circuito mais simples. O fluido entra na placa fria, aquece e sai sem ferver, o que simplifica o sistema, mas exige bombeamento constante. Os sistemas de refrigeração líquida com água aquecida da NVIDIA, por exemplo, utilizam uma mistura de aproximadamente 75% de água e 25% de propilenoglicol e aceitam fluido refrigerante a uma temperatura de até 45 °C em um circuito fechado. Essa temperatura permite que muitas empresas dissipem o calor com resfriadores a seco em vez de chillers que consomem muita energia.

Conexão direta ao chip em duas fases

O resfriamento bifásico direto no chip permite que o fluido refrigerante ferva na superfície quente, utilizando o calor latente de evaporação para transferir muito mais calor por unidade de fluxo. A revista IEEE Spectrum descreve métodos bifásicos que oferecem uma capacidade de resfriamento de dez a cem vezes maior do que um líquido monofásico, com uma fração da vazão. A desvantagem é um sistema selado mais complexo e fluidos que devem ser selecionados e contidos com cuidado.

Trocadores de calor na porta traseira e sistema de refrigeração híbrido ar-líquido

Os trocadores de calor da porta traseira resfriam o ar que sai do rack, não o próprio chip, o que os torna a opção mais simples para refrigeração líquida em salas com sistema de resfriamento a ar já existente. Uma serpentina de resfriamento líquido substitui a porta traseira do rack, as próprias ventoinhas dos servidores impulsionam o ar quente através dela e a água gelada remove o calor antes que ele retorne à sala. As capacidades relatadas chegam a aproximadamente 75 kW por rack, o suficiente para expandir instalações com resfriamento a ar para densidades moderadas de IA sem a necessidade de tubulação de líquido para cada chip. As portas passivas dependem das ventoinhas dos servidores, enquanto as portas ativas adicionam suas próprias ventoinhas para maior capacidade de refrigeração.

Os designs híbridos combinam placas de resfriamento direto ao chip com resfriamento a ar ou por porta traseira no mesmo rack. As placas frias suportam a carga concentrada de GPUs e CPUs, enquanto o ar cuida dos componentes de menor consumo de energia, o que geralmente é a opção mais prática quando um local não pode optar por um sistema de resfriamento líquido completo de uma só vez.

Arrefecimento por imersão

O resfriamento por imersão submerge servidores inteiros em um fluido dielétrico não condutor, eliminando a necessidade de ventoinhas e tubulações por chip. Como o fluido entra em contato com todos os componentes, o calor é dissipado uniformemente por todas as superfícies das placas, e não por uma única placa, o que permite uma densidade muito alta em um formato compacto. A remoção das ventoinhas também elimina um ponto de falha comum e grande parte do ruído acústico, além de liberar o volume que essas ventoinhas e dissipadores de calor ocupariam. As desvantagens são hardware diferente, novos procedimentos de manutenção e manuseio do fluido. A manutenção de uma placa exige que ela seja retirada do tanque, e os operadores chegam a substituir alguns materiais de interface térmica padrão, pois podem se degradar no fluido com o tempo.

Servidores de IA submersos em fluido dielétrico para resfriamento por imersão em alta densidade de potência do rack.

Imersão monofásica

A imersão monofásica mantém o fluido dielétrico em estado líquido e o bombeia para um trocador de calor externo. Essa abordagem é mecanicamente simples e elimina a necessidade de ventiladores, mas ainda requer circulação e testes periódicos do fluido para garantir sua confiabilidade.

Imersão em duas fases

A imersão bifásica permite que o fluido evapore dos componentes e se condense em uma serpentina resfriada acima do tanque, aproveitando o calor latente para um fluxo de calor muito alto. Fluidos dielétricos projetados são formulados para ferver em baixas temperaturas, aproximadamente na faixa de 34 a 56 °C, de modo que os componentes permaneçam próximos a uma temperatura controlada. O custo do fluido e o confinamento são as principais restrições.

Adequação do método de resfriamento à densidade do rack

A escolha do método de resfriamento depende mais da densidade de potência do rack do que de qualquer outro fator isolado. O resfriamento a ar e pela porta traseira ainda é adequado para racks de baixa densidade. O resfriamento direto no chip torna-se o padrão quando um rack ultrapassa a densidade em que o resfriamento a ar sozinho limita o desempenho, geralmente na faixa das dezenas de quilowatts. A imersão é reservada para as densidades mais altas e com restrições de espaço. A questão crucial para qualquer implementação é onde o calor realmente se concentra e se a interface e o projeto da placa fria conseguem dissipá-lo na temperatura de junção desejada.

Gráfico que relaciona o método de resfriamento do servidor de IA com a densidade de energia do rack, desde resfriamento a ar até resfriamento pela porta traseira, resfriamento direto no chip e imersão.

A densidade não é a única variável. O fato de uma instalação estar adaptando uma sala refrigerada a ar ou construindo uma nova altera a resposta. Projetos com porta traseira e híbridos reutilizam racks e fluxo de ar existentes, enquanto sistemas de refrigeração direta no chip e por imersão pressupõem encanamento, unidades de resfriamento líquido (CDUs) e equipe treinada em refrigeração líquida. A temperatura da água disponível na instalação também é importante: um projeto que aceita fluido refrigerante mais quente pode utilizar resfriadores a seco em vez de chillers, que é onde reside grande parte da eficiência da refrigeração líquida. O ponto em comum é que nenhum método escapa do caminho do calor. O material da interface e o projeto da placa fria sob cada chip devem ser verificados em relação à carga térmica real antes da escolha do circuito de refrigeração.

MétodoComo ele aproveita o caminho do calorAjuste típicoPrincipal compensação
Ar / CRACSopra ar frio sobre dissipadores de calor.Prateleiras de baixa densidadeA margem de segurança se esgota na faixa das dezenas de kW.
Trocador de calor da porta traseiraResfria o ar de exaustão do rack com uma serpentina de líquidoModernização com densidade moderada e refrigeração a arAinda depende das ventoinhas do servidor no chip.
Placa fria de contato direto com o chipLíquido a poucos milímetros da matriz através de uma placa friaRacks de IA mais densos (100 kW+)Necessita de placas frias, unidades de descontaminação refrigerada (CDUs) e pasta térmica (TIM) em cada chip.
ImersãoServidor inteiro submerso em fluido dielétricoDensidade máxima, limitada pelo espaço disponívelDiferentes equipamentos, manuseio de fluidos, manutenção

Conclusão

Em resumo, os servidores de IA são resfriados transferindo o calor para um líquido o mais próximo possível do chip, de acordo com a densidade de potência exigida: placas frias para a maioria dos racks de IA, trocadores de calor na porta traseira para otimizar o espaço em salas refrigeradas a ar e imersão em casos extremos. O fator crucial é escolher o método adequado à densidade de potência do rack e ao caminho do calor. O ponto mais frequentemente ignorado é que o resfriamento líquido não se resume a uma simples troca de fluido refrigerante. A interface entre o chip e a placa fria, sua planicidade e o material utilizado determinam se um circuito de resfriamento consegue manter o processador na temperatura ideal. Seguindo a potência consumida a partir do chip, o método de resfriamento apropriado geralmente se revela por si só.

FAQ

Por que as ventoinhas não conseguem mais resfriar uma GPU de IA moderna?

Os ventiladores atingem seu limite porque um único acelerador de IA pode dissipar mais de 1.000 W e um rack pode ultrapassar 100 kW. Isso está muito além da capacidade de remoção de calor por ar em condições práticas de potência e ruído dos ventiladores. O líquido transporta muito mais calor por unidade de volume, mantendo a temperatura de junção com um aumento de temperatura muito menor.

O que fica entre a GPU e a placa fria?

Uma fina camada de interface térmica fica entre o chip e a placa fria, preenchendo a lacuna microscópica e irregular para que o calor seja conduzido em vez de ficar retido no ar. O material, seja uma almofada, gel, pasta ou filme de mudança de fase, é escolhido de acordo com o tamanho da lacuna, a planicidade e a pressão de montagem do encapsulamento.

Qual a diferença entre o resfriamento direto no chip e o resfriamento por imersão?

O resfriamento direto no chip (DTC) resfria apenas os componentes mais quentes por meio de uma placa fria, enquanto o restante é resfriado por ar ou outro circuito. Já o resfriamento por imersão submerge todo o servidor em fluido dielétrico. O DTC se adapta mais facilmente a racks existentes, e o resfriamento por imersão atinge maior densidade, mas requer hardware e sistema de fluido diferentes.

O sistema de refrigeração líquida economiza água?

O resfriamento líquido pode economizar água quando opera em circuito fechado, com o fluido refrigerante sendo rejeitado por resfriadores a seco, já que o mesmo fluido recircula em vez de evaporar. A economia de água em uma instalação depende do projeto de rejeição de calor e do clima, e não apenas da placa fria.

Qual a densidade de racks que requer refrigeração líquida?

O resfriamento líquido geralmente se torna necessário quando a densidade de servidores no rack atinge dezenas de quilowatts, ponto em que o ar não consegue mais evitar a limitação de desempenho. O ponto de transição exato depende dos servidores, do fluxo de ar e das condições de entrada de ar, portanto, deve ser verificado para cada instalação, e nunca presumido.

Leitura complementar

  • Compostos de envasamento — Aborda como os encapsulantes protegem e conduzem o calor para longe de conjuntos eletrônicos, sendo útil quando um projeto de resfriamento também precisa selar e suportar mecanicamente os componentes.
  • Para que é usado o gel térmico? — Explica onde o gel térmico se encaixa entre os materiais de interface para preencher lacunas irregulares, a mesma camada de interface que este artigo destaca como decisiva.
  • Para que serve a pasta térmica para computadores? — Explica como a pasta térmica funciona nas interfaces da CPU e da GPU, o espaço microscópico que existe entre o chip e sua placa fria.
  • Quando usar gel térmico? — Ajuda a decidir quando um gel é melhor que uma almofada ou pasta para uma determinada folga e condição de montagem, ampliando a lógica de seleção de interface neste caso.
  • Qual a melhor pasta térmica? — Esclarece como avaliar a "melhor" pasta térmica com base no resultado desejado e nas restrições, útil quando se sabe que uma interface ruim limita qualquer circuito de fluidos.

Precisa de uma solução personalizada de gestão térmica?

Nossos engenheiros oferecem consultoria gratuita e projetos personalizados para atender às suas necessidades específicas.