NVIDIA porta l'adozione del raffreddamento a liquido a oltre il 20% entro il 2025

 

Il tasso di penetrazione delle soluzioni di raffreddamento a liquido è destinato ad aumentare in modo significativo, passando da circa il 10% nel 2024 a oltre il 20% entro il 2025. Secondo l'ultimo sondaggio TrendForce, la piattaforma Blackwell di NVIDIA dovrebbe essere disponibile nel quarto trimestre, il che aumenterà il adozione di soluzioni di raffreddamento a liquido. La crescente consapevolezza globale dei fattori ESG, unita ai CSP che accelerano l’implementazione dei server AI, sta facilitando il passaggio dal raffreddamento ad aria al raffreddamento a liquido.

 

 

Nel mercato globale dei server AI, NVIDIA rimane quest’anno il fornitore dominante. Nel segmento dei server GPU AI, NVIDIA detiene una leadership dominante con una quota di mercato vicina al 90%, mentre AMD si attesta a circa l'8%. TrendForce rileva che, sebbene le spedizioni di NVIDIA Blackwell siano attualmente limitate a causa dei test in corso sulla catena di fornitura, l'elevato consumo energetico della nuova piattaforma, in particolare della soluzione montata su rack GB200, richiede una migliore efficienza di raffreddamento, probabilmente aumentando l'adozione del raffreddamento a liquido. Tuttavia, il basso rapporto di raffreddamento a liquido dell’ecosistema di server esistente presenta delle sfide, poiché gli ODM devono percorrere una curva di apprendimento per affrontare in modo efficace i problemi di perdita e di efficienza del raffreddamento. TrendForce prevede che entro il 2025, oltre l’80% delle GPU sulla piattaforma Blackwell saranno di fascia alta, spingendo le aziende di alimentazione e raffreddamento a competere nel mercato del raffreddamento a liquido AI, con conseguenti nuove dinamiche di settore.

 

 

I Google espande in modo aggressivo le soluzioni di raffreddamento a liquido

 

Negli ultimi anni, le principali società cloud statunitensi come Google, AWS e Microsoft hanno rapidamente costruito server AI basati principalmente su GPU NVIDIA e ASIC proprietari. TrendForce riferisce che il cabinet GB200 NVL72 di NVIDIA ha una potenza di progettazione termica (TDP) di circa 140 kW, che richiede una soluzione di raffreddamento a liquido, prevalentemente liquido-aria (L2A). Altre architetture, come i server HGX e MGX Blackwell, utilizzano principalmente il raffreddamento ad aria a causa della minore densità.

 

Per le aziende cloud che sviluppano i propri ASIC AI, TPU di Google ha adottato soluzioni di raffreddamento sia ad aria che a liquido, rendendola leader nel raffreddamento a liquido tra le aziende statunitensi. BOYD e Cooler Master sono i principali fornitori di piatti freddi. La cinese Alibaba è la più aggressiva nell’espansione dei data center raffreddati a liquido, mentre altre società cloud continuano a favorire il raffreddamento ad aria per i loro ASIC AI.

 

TrendForce indica che le società cloud specificheranno i fornitori di componenti chiave per la soluzione di raffreddamento a liquido del cabinet GB200. I principali fornitori di piastre fredde includono Qihong e Cooler Master, mentre i collettori provengono da Cooler Master e Shuanghong e le unità di distribuzione del refrigerante (CDU) sono fornite da Vertiv e Delta. L’approvvigionamento di componenti cruciali a prova di perdite, come i connettori rapidi (QD), rimane dominato da produttori stranieri come CPC, Parker Hannifin, Danfoss e Staubli.

 

▲ Fornitori di componenti chiave del server AI per soluzioni di raffreddamento a liquido

 

 

II Come affrontare il surriscaldamento del chip AI? Esplora 3 metodi di raffreddamento del server

 

Prima di approfondire la competizione sul raffreddamento, è essenziale comprendere i metodi di raffreddamento primari, che possono essere classificati in tre tipi: raffreddamento ad aria, raffreddamento a liquido e raffreddamento ad immersione.

 

1. Raffreddamento ad aria: ancora molto richiesto

Il raffreddamento ad aria è il metodo di raffreddamento più utilizzato nei data center e nelle sale server aziendali, simile a fornire aria fresca ai server tramite ventole, dissipatori di calore e tubi di calore. Per ottenere prestazioni di raffreddamento ottimali, è necessaria una tecnologia avanzata di raffreddamento ad aria come le camere di vapore (3D VC) combinate con tubi di calore e numerose ventole. Tuttavia, mentre l'aumento del flusso d'aria e della velocità migliorano la convezione del calore, il rumore e le vibrazioni eccessivi possono avere un impatto negativo sull'ambiente del server. Secondo Wu Junying, vicedirettore generale, il raffreddamento ad aria rappresenta ancora una domanda significativa del mercato poiché i chip H100 possono essere adeguatamente raffreddati utilizzando l'aria. Tuttavia, con la spedizione dei chip della serie GB, il ritmo di adozione del raffreddamento a liquido accelererà.

 

2. Raffreddamento a liquido: il mercato principale perseguito da tutti i fornitori

Il raffreddamento a liquido, noto anche come raffreddamento diretto a liquido (DLC), può essere ulteriormente suddiviso in liquido-aria e liquido-liquido.

Liquido-aria: questo metodo utilizza tubi di raffreddamento ad acqua per allontanare il calore dai trucioli, mentre l'acqua riscaldata viene inviata alle ventole sul retro dell'armadio per disperdere il calore. Il raffreddamento liquido-aria è una risposta ai limiti fisici del raffreddamento ad aria nei data center esistenti, poiché richiede modifiche minime all'infrastruttura della sala server: basta aggiungere una ventola sul retro per migliorare il raffreddamento. Attualmente, circa il 60-70% dei data center utilizza ancora questo metodo di raffreddamento. Tuttavia, sebbene la soluzione liquido-aria sia una soluzione praticabile, non è ottimale; la parete della ventola aggiunta può aumentare i livelli di rumore a 90-100 decibel (equivalenti a una strada trafficata a circa 80 decibel), rendendo difficile per il personale lavorare nella stanza per periodi prolungati.

 

Liquido-liquido: questo metodo prevede la chiusura di tubazioni sigillate riempite di refrigerante attorno ai componenti che generano calore del server. Il calore viene trasferito attraverso lastre di rame termico al liquido refrigerante, consentendo un ciclo di scambio di liquidi caldo e freddo. A differenza del metodo liquido-aria, questo metodo non richiede pareti di ventilazione dietro gli armadietti dei server, migliorando significativamente l'utilizzo dello spazio e riducendo i livelli di rumore. Il GB200 NB072 di fascia alta di NVIDIA utilizza il raffreddamento liquido-liquido.

 

3. Raffreddamento per immersione: il Santo Graal del raffreddamento del futuro?

Il raffreddamento per immersione prevede l'immersione di interi server in un liquido non conduttivo, simile a un bagno caldo, raffreddando efficacemente non solo i chip ma anche CPU, memoria e altri componenti elettronici all'interno dei server. Tuttavia, questioni come le preoccupazioni ambientali legate ai liquidi di immersione, gli effetti a lungo termine sui componenti elettronici e la manutenzione continua presentano sfide significative. I data center che prendono in considerazione soluzioni ad immersione devono anche valutare l'integrità strutturale dei piani degli edifici e dell'infrastruttura sottostante per i sistemi elettrici e idrici. L’implementazione del raffreddamento a immersione richiede un’ampia riprogettazione della struttura, con conseguenti costi sostanziali.