{"id":38088,"date":"2026-10-15T06:01:50","date_gmt":"2026-10-15T06:01:50","guid":{"rendered":"https:\/\/trumonytechs.com\/?p=38088"},"modified":"2026-10-15T06:01:51","modified_gmt":"2026-10-15T06:01:51","slug":"how-are-ai-servers-cooled","status":"publish","type":"post","link":"https:\/\/www.trumonytechs.com\/it\/how-are-ai-servers-cooled\/","title":{"rendered":"Come vengono raffreddati i server di intelligenza artificiale?"},"content":{"rendered":"

Oggi i server per l'intelligenza artificiale vengono raffreddati principalmente a liquido. Piastre di raffreddamento applicate sui processori, scambiatori di calore sul retro dei rack o l'immersione completa in un fluido non conduttivo sono diventati la soluzione preferita, poich\u00e9 l'aria da sola non \u00e8 pi\u00f9 sufficiente a dissipare il calore generato da un rack per IA ad alta densit\u00e0. Il calore segue un percorso fisso, indipendentemente dal metodo utilizzato: esce dal die di silicio, attraversa un sottile strato di interfaccia termica, entra in una piastra di raffreddamento metallica o nel liquido refrigerante e infine viene espulso dall'ambiente. Comprendere questo percorso e il punto in cui ciascun metodo di raffreddamento interviene spiega perch\u00e9 il settore si \u00e8 spostato dalle ventole ai fluidi.<\/p>\n\n\n\n

Perch\u00e9 il raffreddamento ad aria non \u00e8 sufficiente alle densit\u00e0 di rack AI<\/h2>\n\n\n\n

Il raffreddamento ad aria risulta inadeguato alle densit\u00e0 richieste dall'IA perch\u00e9 il calore generato da ciascun rack ha superato la capacit\u00e0 di dissipazione dell'aria. Un rack aziendale convenzionale assorbe circa 8-10 kW. I rack per l'addestramento di sistemi IA raggiungono ora i 100 kW e oltre, e la potenza per acceleratore \u00e8 passata da poche centinaia di watt a ben oltre 1.000 W. Le GPU Blackwell di NVIDIA assorbono fino a circa 1.200 W ciascuna, secondo quanto riportato da IEEE Spectrum. Far circolare una quantit\u00e0 sufficiente di aria fredda sui chip a tale densit\u00e0 significa richiedere una potenza delle ventole e generare rumore eccessivi ben prima che i chip raggiungano una temperatura ottimale.<\/p>\n\n\n\n

Il flusso d'aria \u00e8 il limite specifico che cede per primo. L'aria ha una bassa capacit\u00e0 termica, quindi rimuovere pi\u00f9 calore significa spostare pi\u00f9 aria, e il volume necessario aumenta pi\u00f9 rapidamente dello spazio e della potenza delle ventole disponibili all'interno di un rack denso. Oltre un certo punto, le ventole consumano una quota crescente del budget energetico, si formano punti caldi dove il flusso d'aria \u00e8 irregolare e i processori iniziano a ridurre le prestazioni per proteggersi. Questo \u00e8 il limite raggiunto dall'hardware per l'IA, ed \u00e8 per questo che la domanda si \u00e8 spostata da come raffreddare i server per l'IA con l'aria a quale metodo di raffreddamento a liquido utilizzare.<\/p>\n\n\n\n

La fisica favorisce di gran lunga i liquidi. IEEE Spectrum osserva che l'acqua pu\u00f2 assorbire circa 3.000 volte pi\u00f9 calore per unit\u00e0 di volume rispetto all'aria e conduce il calore circa venti volte meglio. Ecco perch\u00e9 un circuito a liquido mantiene la temperatura di giunzione di un chip con una differenza di temperatura di gran lunga inferiore rispetto a quanto potrebbe mai fare l'aria. Anche il raffreddamento non \u00e8 un costo trascurabile. Secondo alcune stime degli operatori, pu\u00f2 rappresentare fino a 401 TP4T dell'elettricit\u00e0 consumata da un data center. Tale efficienza incide direttamente sui costi operativi e, di conseguenza, sulla quantit\u00e0 di potenza di calcolo che un sito pu\u00f2 installare con la stessa disponibilit\u00e0 di energia.<\/p>\n\n\n\n

Il percorso del calore: dal die della GPU, attraverso i materiali dell'interfaccia termica, fino alla piastra di raffreddamento.<\/h2>\n\n\n\n

Ogni metodo di raffreddamento inizia dallo stesso collo di bottiglia: togliere il calore dal chip e farlo passare attraverso il piccolo spazio tra il die o il suo coperchio e l'hardware di raffreddamento. Tale spazio non \u00e8 mai perfettamente piatto, quindi un sottile strato di materiali di interfaccia termica<\/a> riempie lo spazio e sostituisce l'aria isolante con un percorso conduttivo verso la piastra fredda o il dissipatore di calore. Quando questa interfaccia \u00e8 scadente, nessun circuito a valle, per quanto freddo, riesce a dissipare il calore abbastanza velocemente e il processore rallenta.<\/p>\n\n\n\n

\"Diagramma<\/figure>\n\n\n\n

L'interfaccia \u00e8 fondamentale perch\u00e9 le resistenze termiche si sommano in serie lungo il percorso del calore. Il calore deve attraversare la giunzione tra il die e il coperchio, lo strato di interfaccia e la parete della piastra di raffreddamento prima di raggiungere il liquido refrigerante, e l'anello pi\u00f9 debole determina il limite massimo. Una piastra di raffreddamento di grandi dimensioni e a bassa temperatura non pu\u00f2 compensare una scarsa interfaccia direttamente sotto il chip. Ecco perch\u00e9 lo strato di interfaccia, sebbene spesso solo una frazione di millimetro, viene considerato una variabile di progettazione, non un elemento da aggiungere in un secondo momento.<\/p>\n\n\n\n

La selezione dell'interfaccia segue l'assemblaggio, non solo il refrigerante. Gli spazi pi\u00f9 ampi o irregolari vengono solitamente colmati con riempitivi per spazi conformabili o cuscinetti termici<\/a> I coperchi sottili e piatti vengono scelti in base alla loro capacit\u00e0 di gestire la pressione di montaggio e alla planarit\u00e0, mentre per i coperchi pi\u00f9 sottili e piatti si possono utilizzare paste o pellicole a cambiamento di fase. La conduttivit\u00e0 specifica e lo spessore dipendono dal materiale e dal metodo di montaggio, e non esiste un singolo codice articolo che li definisca in modo univoco. Fornitori di componenti come Trumonytechs operano a questo livello, adattando le piastre di raffreddamento e i materiali di interfaccia allo spazio, alle sollecitazioni di assemblaggio e al carico termico di un determinato package. La stessa ingegneria di interfaccia regola il raffreddamento del pacco batteria.<\/p>\n\n\n\n

Raffreddamento a liquido diretto sul chip (a piastra fredda)<\/h2>\n\n\n\n

Il raffreddamento diretto al chip \u00e8 l'approccio dominante per i rack AI ad alta densit\u00e0: una piastra metallica con canali interni \u00e8 posizionata direttamente su ciascun processore e trasporta il liquido refrigerante a pochi millimetri dalla fonte di calore. Le descrizioni pubbliche dei sistemi di produzione indicano che la quota di calore del rack catturata in questo modo si aggira tra il 70 e il 90% per processore, mentre una parte del calore residuo proveniente dalle memorie e dagli stadi di alimentazione viene ancora dissipata tramite aria. Il liquido refrigerante \u00e8 spesso acqua con aggiunta di glicole per prevenire il congelamento, la corrosione e la proliferazione batterica, e viene poi convogliato attraverso un'unit\u00e0 di distribuzione del refrigerante (CDU) per la dissipazione del calore all'esterno.<\/p>\n\n\n\n

\"Piastra<\/figure>\n\n\n\n

L'unit\u00e0 CDU \u00e8 l'elemento di confine che rende l'approccio pratico su larga scala. Isola il circuito pulito e controllato a contatto con i chip dall'acqua di raffreddamento esterna dell'impianto e distribuisce il flusso a ciascun rack tramite collettori. Gli operatori possono quindi far funzionare il circuito lato chip alla temperatura desiderata dai server, mentre il circuito lato impianto dissipa il calore tramite refrigeratori a secco o refrigeratori. Poich\u00e9 il circuito rimane sigillato, lo stesso fluido refrigerante viene ricircolato anzich\u00e9 essere consumato e il progetto prevede di serie sistemi di rilevamento perdite e raccordi a sgancio rapido.<\/p>\n\n\n\n

Monofase Direct-to-Chip<\/h3>\n\n\n\n

Il raffreddamento diretto al chip monofase mantiene il liquido refrigerante allo stato liquido per tutto il percorso, sacrificando una maggiore portata a favore di un circuito pi\u00f9 semplice. Il fluido entra nella piastra di raffreddamento, si riscalda ed esce senza bollire, il che semplifica il sistema ma richiede un pompaggio costante. I sistemi di raffreddamento ad acqua calda di NVIDIA, ad esempio, utilizzano una miscela di circa 751 TP4T di acqua e 251 TP4T di glicole propilenico e accettano un refrigerante con temperature fino a 45 \u00b0C in un circuito chiuso. Tale temperatura consente a molti siti di dissipare il calore con sistemi di raffreddamento a secco anzich\u00e9 con refrigeratori ad alto consumo energetico.<\/p>\n\n\n\n

Bifase Direct-to-Chip<\/h3>\n\n\n\n

Il raffreddamento bifase diretto sul chip permette al refrigerante di bollire sulla superficie calda, sfruttando il calore latente di evaporazione per trasferire una quantit\u00e0 di calore di gran lunga superiore per unit\u00e0 di flusso. IEEE Spectrum descrive metodi bifase che offrono una capacit\u00e0 di raffreddamento da dieci a cento volte superiore rispetto a un liquido monofase, a una frazione della portata. Il compromesso consiste in un sistema sigillato pi\u00f9 complesso e in fluidi che devono essere selezionati e contenuti con cura.<\/p>\n\n\n\n

Scambiatori di calore per le portiere posteriori e raffreddamento ibrido aria-liquido<\/h2>\n\n\n\n

Gli scambiatori di calore a porta posteriore raffreddano l'aria in uscita dal rack, non il chip stesso, il che li rende la soluzione pi\u00f9 semplice per l'installazione di un sistema di raffreddamento a liquido in una sala server gi\u00e0 esistente con raffreddamento ad aria. Una serpentina di raffreddamento a liquido sostituisce la porta posteriore del rack, le ventole dei server spingono l'aria calda attraverso di essa e l'acqua refrigerata disperde il calore prima che rientri nella stanza. Le capacit\u00e0 dichiarate arrivano fino a circa 75 kW per rack, sufficienti per estendere le strutture con raffreddamento ad aria a densit\u00e0 di intelligenza artificiale moderata senza dover installare un sistema di raffreddamento a liquido per ogni singolo chip. Le porte passive si affidano alle ventole dei server, mentre le porte attive aggiungono le proprie ventole per una maggiore capacit\u00e0 di raffreddamento.<\/p>\n\n\n\n

Le configurazioni ibride combinano piastre di raffreddamento a contatto diretto con il raffreddamento ad aria o tramite sportello posteriore nello stesso rack. Le piastre di raffreddamento gestiscono il carico concentrato di GPU e CPU, mentre l'aria si occupa dei componenti a basso consumo, una soluzione spesso pratica quando non \u00e8 possibile implementare fin da subito un sistema di raffreddamento a liquido completo.<\/p>\n\n\n\n

Raffreddamento a immersione<\/h2>\n\n\n\n

Il raffreddamento a immersione immerge interi server in un fluido dielettrico non conduttivo, eliminando la necessit\u00e0 di ventole e di tubazioni per ogni singolo chip. Poich\u00e9 il fluido entra in contatto con ogni componente, il calore viene dissipato uniformemente dalle schede su ogni superficie, e non attraverso una singola piastra, consentendo un'altissima densit\u00e0 in uno spazio compatto. L'eliminazione delle ventole elimina anche un punto critico di guasto e gran parte del rumore acustico, liberando inoltre il volume che ventole e dissipatori di calore occuperebbero. I compromessi da considerare sono l'hardware differente, le nuove procedure di manutenzione e la gestione del fluido. La manutenzione di una scheda implica la sua estrazione dalla vasca e gli operatori sono costretti a sostituire alcuni materiali standard per l'interfaccia termica, poich\u00e9 possono degradarsi nel fluido nel tempo.<\/p>\n\n\n\n

\"Server<\/figure>\n\n\n\n

Immersione monofase<\/h3>\n\n\n\n

Il sistema a immersione monofase mantiene il fluido dielettrico allo stato liquido e lo pompa verso uno scambiatore di calore esterno. Questo approccio \u00e8 meccanicamente semplice ed elimina la necessit\u00e0 di ventole, ma richiede comunque la circolazione del fluido e test periodici per garantirne l'affidabilit\u00e0.<\/p>\n\n\n\n

Immersione bifase<\/h3>\n\n\n\n

L'immersione bifase permette al fluido di evaporare dai componenti e condensarsi su una serpentina raffreddata posta sopra il serbatoio, sfruttando ancora una volta il calore latente per ottenere un flusso termico molto elevato. I fluidi dielettrici ingegnerizzati sono formulati per bollire a basse temperature, generalmente comprese tra 34 e 56 \u00b0C, in modo che i componenti rimangano a una temperatura controllata. I principali vincoli sono rappresentati dal costo del fluido e dal contenimento.<\/p>\n\n\n\n

Abbinamento del metodo di raffreddamento alla densit\u00e0 dei rack<\/h2>\n\n\n\n

La scelta del metodo dipende principalmente dalla densit\u00e0 di potenza del rack. Il raffreddamento ad aria e quello tramite sportello posteriore sono ancora adatti per rack a bassa densit\u00e0. Il raffreddamento diretto al chip diventa la soluzione predefinita quando un rack supera la densit\u00e0 oltre la quale il solo raffreddamento ad aria inizia a limitare le prestazioni, un valore che si aggira solitamente sulle decine di kilowatt. Il raffreddamento a immersione \u00e8 riservato alle densit\u00e0 pi\u00f9 elevate e a quelle con spazio limitato. La questione cruciale per qualsiasi implementazione \u00e8 dove si concentra effettivamente il calore e se l'interfaccia e la piastra di raffreddamento sono in grado di dissiparlo alla temperatura di giunzione desiderata.<\/p>\n\n\n\n

\"Grafico<\/figure>\n\n\n\n

La densit\u00e0 non \u00e8 l'unica variabile, per\u00f2. Il fatto che si tratti di un ammodernamento di una sala raffreddata ad aria o di una nuova costruzione cambia la risposta. Le soluzioni con sportello posteriore e ibride riutilizzano i rack e il flusso d'aria esistenti, mentre le soluzioni a raffreddamento diretto al chip e a immersione presuppongono impianti idraulici, unit\u00e0 di distribuzione dell'aria (CDU) e personale specializzato nella gestione dei liquidi. Anche la temperatura dell'acqua disponibile nell'impianto \u00e8 importante: una soluzione che accetta un refrigerante pi\u00f9 caldo pu\u00f2 utilizzare scambiatori di calore a secco anzich\u00e9 refrigeratori, che sono la principale fonte di efficienza del raffreddamento a liquido. Il filo conduttore \u00e8 che nessun metodo sfugge al percorso del calore. Il materiale di interfaccia e il design della piastra di raffreddamento sotto ogni chip devono essere verificati in base al carico termico reale prima di scegliere il circuito circostante.<\/p>\n\n\n\n

\n\n
Metodo<\/th>Come sfrutta il percorso del calore<\/th>vestibilit\u00e0 tipica<\/th>Principale compromesso<\/th><\/tr>\n
Aria \/ CRAC<\/td>Soffia aria fredda sui dissipatori di calore<\/td>Rack a bassa densit\u00e0<\/td>Il margine di sicurezza si esaurisce nelle decine di kW<\/td><\/tr>\n
Scambiatore di calore della porta posteriore<\/td>Raffredda l'aria di scarico del rack tramite una serpentina a liquido.<\/td>Ristrutturazioni a densit\u00e0 moderata, con raffreddamento ad aria.<\/td>Dipende ancora dalle ventole del server sul chip<\/td><\/tr>\n
Piastra di raffreddamento a contatto diretto con il chip<\/td>Liquido a pochi millimetri dalla matrice tramite una piastra fredda<\/td>Rack AI ad alta densit\u00e0 (100 kW+)<\/td>Necessita di piastre di raffreddamento, CDU e TIM per ogni chip<\/td><\/tr>\n
Immersione<\/td>L'intero server immerso in un fluido dielettrico.<\/td>Massima densit\u00e0, limitata dallo spazio disponibile<\/td>Hardware diverso, gestione dei fluidi, manutenzione<\/td><\/tr>\n<\/table>\n<\/figure>\n\n\n\n

Conclusione<\/h2>\n\n\n\n

In breve, i server AI vengono raffreddati trasferendo il calore a un liquido il pi\u00f9 vicino possibile al chip, a seconda della densit\u00e0 di potenza: piastre di raffreddamento per la maggior parte dei rack AI, scambiatori di calore a porta posteriore per ottimizzare il raffreddamento ad aria delle sale server e, nei casi pi\u00f9 estremi, immersione. La scelta del metodo pi\u00f9 adatto \u00e8 in base alla densit\u00e0 di potenza del rack e al percorso di dissipazione del calore. L'aspetto pi\u00f9 spesso trascurato \u00e8 che il raffreddamento a liquido non si limita alla semplice sostituzione del fluido refrigerante. L'interfaccia tra il die e la piastra di raffreddamento, la sua planarit\u00e0 e il materiale di cui \u00e8 composta determinano se un qualsiasi circuito \u00e8 in grado di mantenere il processore entro i limiti di temperatura ottimali. Seguendo la curva di potenza dal die verso l'esterno, il metodo di raffreddamento pi\u00f9 appropriato si rivela solitamente evidente.<\/p>\n\n\n\n

FAQ<\/h2>\n\n\n\n

Perch\u00e9 le ventole non riescono pi\u00f9 a raffreddare una GPU AI moderna?<\/h3>\n\n\n\n

Le ventole non riescono a gestire la potenza dissipata perch\u00e9 un singolo acceleratore AI pu\u00f2 dissipare oltre 1.000 W e un rack pu\u00f2 superare i 100 kW. Si tratta di valori ben superiori a quelli che l'aria in movimento \u00e8 in grado di dissipare a livelli pratici di potenza e rumorosit\u00e0 delle ventole. Il liquido trasporta molto pi\u00f9 calore per unit\u00e0 di volume, quindi mantiene la temperatura di giunzione con un aumento di temperatura molto inferiore.<\/p>\n\n\n\n

Cosa si trova tra la GPU e la piastra di raffreddamento?<\/h3>\n\n\n\n

Un sottile strato di interfaccia termica si interpone tra il chip e la piastra fredda, riempiendo lo spazio microscopico e irregolare in modo che il calore venga condotto anzich\u00e9 ristagnare nell'aria intrappolata. Il materiale, che si tratti di un pad, un gel, una pasta o una pellicola a cambiamento di fase, viene scelto in base alle dimensioni dello spazio, alla planarit\u00e0 e alla pressione di montaggio del package.<\/p>\n\n\n\n

In che modo il raffreddamento diretto sul chip si differenzia dal raffreddamento a immersione?<\/h3>\n\n\n\n

Il raffreddamento diretto sul chip (DTC) raffredda solo i componenti pi\u00f9 caldi tramite una piastra di raffreddamento, mentre l'aria o un altro circuito si occupa del resto, mentre il raffreddamento a immersione immerge l'intero server in un fluido dielettrico. Il DTC si integra pi\u00f9 facilmente nei rack esistenti, mentre il raffreddamento a immersione raggiunge una densit\u00e0 maggiore ma richiede hardware e sistemi di gestione dei fluidi differenti.<\/p>\n\n\n\n

Il raffreddamento a liquido consente di risparmiare acqua?<\/h3>\n\n\n\n

Il raffreddamento a liquido pu\u00f2 far risparmiare acqua quando funziona in un circuito chiuso con scambiatore di calore attraverso scambiatori a secco, poich\u00e9 lo stesso refrigerante viene ricircolato anzich\u00e9 evaporare. L'effettivo risparmio idrico di un sito dipende dalla progettazione del sistema di dissipazione del calore e dal clima, non solo dalla piastra di raffreddamento.<\/p>\n\n\n\n

Quale densit\u00e0 di rack richiede il raffreddamento a liquido?<\/h3>\n\n\n\n

Il raffreddamento a liquido diventa generalmente necessario quando la densit\u00e0 dei rack raggiunge le decine di kilowatt, dove l'aria non \u00e8 pi\u00f9 sufficiente a impedire il throttling. Il punto di svolta esatto dipende dai server, dal flusso d'aria e dalle condizioni dell'aria in ingresso, quindi deve essere verificato per ogni singola implementazione e mai dato per scontato.<\/p>\n\n\n\n

Per approfondire<\/h2>\n\n\n\n