I server IA raffreddati a liquido affrontano colli di bottiglia

Sep 30, 2024

Lasciate un messaggio

 

 

 

Con l'aumento delle spedizioni di chip Blackwell aumenterà anche la disponibilità dei clienti ad adottare il raffreddamento a liquido.

Gli esperti del settore riferiscono che la fornitura di dispositivi universali a disconnessione rapida (UQD) per soluzioni di raffreddamento a liquido sta diventando sempre più limitata, il che potrebbe diventare un grave collo di bottiglia per la crescita del raffreddamento a liquido dei server AI.

 

I produttori di ODM per server indicano che i chip AI Blackwell di Nvidia, inclusi B100 e B200, inizieranno a essere spediti quest'anno, mentre la soluzione GB200 non entrerà in produzione di massa fino alla fine del 2024 o 2025. La maggior parte dei clienti di B100 e B200 utilizza ancora design con raffreddamento ad aria , ma i produttori di ODM segnalano un continuo aumento nella penetrazione del raffreddamento a liquido, prevedendo che anche la disponibilità dei clienti ad adottare il raffreddamento a liquido aumenterà con l'aumento delle spedizioni di chip Blackwell.

 

Liquid-Cooled AI Servers

▲ Server AI raffreddati a liquido

 

 

I Espansione della capacità per soddisfare la crescente domanda di raffreddamento a liquido

 

Le aziende più importanti stanno espandendo la produzione per accogliere la nuova era del raffreddamento a liquido. Il produttore di moduli termici Amlogic prevede di aumentare la propria capacità di produzione mensile di piastre di raffreddamento ad acqua da 30,000 a 300,000 unità.

 

Auras ha aperto un nuovo stabilimento in Tailandia per rispondere alle preoccupazioni e alle richieste geopolitiche dei clienti. Si prevede che questa fabbrica inizierà la produzione di massa nel terzo trimestre. Oltre ad espandere la capacità di produzione locale di piastre di raffreddamento, Auras prevede anche di produrre localmente unità di distribuzione del raffreddamento (CDU) e collettori di distribuzione del fluido di raffreddamento (CDM), con una capacità mensile pianificata di circa 2,000-3,{{2 }} imposta.

 

Il produttore di moduli termici AVC ha dichiarato nella sua recente dichiarazione degli utili che la sua capacità di produzione mensile di moduli a piastre di raffreddamento in Cina e Vietnam è di circa 115,000 unità, che si traduce in una produzione mensile di circa 420,000 unità quando calcolato raffreddando le piastre.

 

AVC prevede di espandere la propria capacità del 50% entro la fine dell'anno. AVC prevede inoltre di aumentare la propria capacità di produzione mensile per CDU a 1,000 unità e per CDM a 30,000 set. AVC ha sottolineato che questa capacità pianificata può essere adattata in modo flessibile in base alle richieste degli ordini dei clienti.

 

La società di termotecnologia Goli Thermal Processing sta espandendo la propria capacità presso lo stabilimento di Zhongli a Taiwan a causa della crescente domanda di raffreddamento a liquido da parte dei clienti. Entro la fine del terzo trimestre, si prevede che la capacità mensile dei CDM aumenterà da 1,000 unità a 2,000 unità ed entro la fine dell'anno a 4,{{5} } unità, con una produzione annuale di CDU che dovrebbe raggiungere le 2,000 unità entro la fine dell'anno.

 

Questi produttori hanno grandi aspettative per la domanda di raffreddamento a liquido, principalmente a causa dell’efficienza computazionale e degli standard PUE dei data center in Cina e nell’UE, ma il fattore più significativo è che Nvidia ha revocato le restrizioni autoimposte sulle specifiche termiche per i produttori di chip.

 

 

II La rapida crescita del raffreddamento a liquido porta a carenze di UQD

 

Mentre il settore attende con impazienza l’arrivo dell’era del raffreddamento a liquido, l’UQD è diventato il più grande ostacolo alla crescita. I produttori di moduli termici hanno sottolineato che recentemente l'offerta di UQD è diventata scarsa. Sebbene l’attuale quota di mercato del raffreddamento a liquido sia solo a una cifra, se in futuro dovesse salire a due cifre, gli UQD potrebbero diventare difficili da ottenere.

 

I fornitori di UQD provengono principalmente dall'Europa e dagli Stati Uniti, come le grandi società americane Parker Hannifin e CPC, la svizzera Staubli International, la danese Danfoss e la svedese Cejn. Anche il gigante taiwanese dei componenti per connettori Lotes sta entrando attivamente nel mercato e ha iniziato le consegne di campioni.

 

Il presidente di Anbo Technology, Liang Zhijian, ha sottolineato che poiché il raffreddamento a liquido mira principalmente a evitare perdite e gli UQD sono i componenti più soggetti a perdite, la fornitura di UQD è quella più limitata tra i componenti di raffreddamento a liquido. Questo non è solo un problema tecnico; anche i produttori rilevanti hanno protezioni brevettuali e Anbo Technology sta ricercando modi per superare queste barriere brevettuali.

 

Gli esperti del settore hanno notato che, sebbene i produttori UQD abbiano protezioni brevettuali, devono anche sottoporsi a molteplici convalide, tra cui la certificazione OCP e le convalide dei clienti, che richiedono molto tempo e manodopera. Inoltre, i produttori europei e americani esistenti non hanno intenzione di espandere la capacità, il che costituirebbe un grave collo di bottiglia per il rapido sviluppo del raffreddamento a liquido.

 

Supermicro è uno dei produttori di sistemi di raffreddamento a liquido in più rapida crescita. Il fondatore e CEO Liang Jianhou ha sottolineato che il raffreddamento a liquido ha rappresentato solo l'1% del mercato dei server negli ultimi 30 anni, ma stima che entro il 2025 il tasso di penetrazione salirà al 30%.

 

 

III Il raffreddamento a liquido come potenziale soluzione; Il boom dell’intelligenza artificiale mette sotto pressione la rete

 

Il rapido sviluppo dell’intelligenza artificiale generativa ha portato a un’espansione senza precedenti dei data center, sollevando preoccupazioni sul loro impatto sulla rete elettrica. Queste strutture ad alta intensità energetica potrebbero portare a blackout e ad un aumento dei costi energetici. Secondo le stime dell’Electric Power Research Institute, entro il 2030 i data center potrebbero consumare il 9% dell’elettricità degli Stati Uniti, raddoppiando la cifra attuale. Il consumo di elettricità di un grande data center equivale a quello di centinaia di migliaia di famiglie.

 

La crescente richiesta di energia da parte dell’intelligenza artificiale è particolarmente preoccupante. I primi modelli di intelligenza artificiale consumavano dieci volte l’energia di una ricerca su Google, mentre i chip più recenti richiedono ancora più potenza. Gli esperti avvertono che il futuro sviluppo dell’intelligenza artificiale potrebbe essere limitato dalla nostra capacità di generare energia sufficiente.

 

Alcuni paesi si trovano ad affrontare sfide gravi. Ad esempio, entro il 2026, l’Irlanda potrebbe destinare il 30% della sua elettricità ai data center. Negli Stati Uniti, il consumo di elettricità dei data center è concentrato in 15 stati, tra cui Texas e Virginia sono i più elevati. La California si trova in una situazione critica, con i nuovi data center che dovrebbero generare richieste di elettricità superiori a quelle delle centrali nucleari.

 

 

IV Data Center: enorme consumo di energia e aumento del raffreddamento a liquido

 

Le esigenze computazionali dell’intelligenza artificiale stanno facendo aumentare la temperatura dei server e le emissioni di carbonio, determinando un aumento significativo della domanda di sistemi di raffreddamento. I sistemi di raffreddamento rappresentano il 40% del consumo energetico totale di un data center, rendendoli la seconda fonte di consumo energetico dopo i server stessi. Si prevede che il mercato globale del raffreddamento dei server crescerà da 20 miliardi di dollari nel 2024 a 90 miliardi di dollari entro il 2027. Si prevede che il mercato dei sistemi di raffreddamento a liquido nei data center aumenterà dall’1% al 22%, con un valore di mercato previsto in crescita da 317 milioni di dollari a 7,8 miliardi di dollari nei prossimi tre anni.

 

Le soluzioni di raffreddamento a liquido, che utilizzano acqua o liquidi refrigeranti per raffreddare i server, stanno diventando sempre più popolari. Le nuove tecnologie includono il raffreddamento per immersione (immersione di interi rack di server in liquidi non conduttivi) e il raffreddamento a liquido diretto (circolazione dell'acqua attorno ai server). Sebbene attualmente sia più costoso dei sistemi di raffreddamento ad aria, il raffreddamento a liquido può ridurre il consumo energetico di un data center del 10% o più.

 

La società di ricerca Global Market Insights prevede che il mercato globale del raffreddamento a liquido per i data center crescerà da 2,1 miliardi di dollari nel 2022 a 12,2 miliardi di dollari entro il 2032. Un sondaggio condotto dall'Uptime Institute ha rilevato che il 16% dei manager dei data center ritiene che il raffreddamento a liquido diventerà il sistema di raffreddamento principale. metodo in 1-3 anni, mentre il 41% pensa che ci vorranno 4-6 anni. Pertanto, è più probabile che emergano metodi di raffreddamento ibridi nel breve termine.

 

Upsite Technologies, leader nella gestione dei sistemi di raffreddamento ad aria per data center, ha osservato che, sebbene la tecnologia sia in continuo progresso, è improbabile che i data center siano raffreddati a liquido al 100% nel breve termine, poiché le apparecchiature di raffreddamento a liquido richiedono ancora il raffreddamento ad aria per la dissipazione del calore. . Sebbene il raffreddamento a liquido sia più efficiente, è difficile da implementare su larga scala e richiede notevoli investimenti iniziali. Il raffreddamento ad aria è meno costoso ma anche meno efficiente. Pertanto, gli impianti di raffreddamento ibridi stanno diventando sempre più popolari per massimizzare i vantaggi sia del raffreddamento a liquido che ad aria.

 

 

V La crisi energetica dei data center richiede un'azione urgente

 

A causa del loro impatto ambientale, i data center sono oggetto di un controllo sempre maggiore. I governi di tutto il mondo stanno implementando normative per controllare il consumo energetico e l’impronta di carbonio. Le linee guida cinesi del “Green Data Center” e iniziative simili in Germania, Singapore e Giappone esemplificano questa tendenza. Esperti del settore come Schneider Electric sottolineano la necessità di parametri ambientali completi per valutare la sostenibilità dei data center, compresi fattori oltre l’uso energetico, come le risorse idriche e la produzione di rifiuti.

 

Il governo degli Stati Uniti sta facendo pressioni sulle grandi aziende tecnologiche affinché investano in energia pulita e riconoscano l’impatto significativo che la crescente domanda di energia dell’intelligenza artificiale ha sull’ambiente.

 

 

VI Trovare fonti di energia adeguate: data center e sfide energetiche

 

I data center necessitano di un mix energetico diversificato per bilanciare affidabilità e sostenibilità soddisfacendo al tempo stesso la domanda crescente. Le fonti energetiche rinnovabili come il solare e l’eolico sono attraenti grazie alla loro bassa impronta di carbonio. Tuttavia, la loro dipendenza dalle condizioni meteorologiche può portare a un rendimento instabile, rendendoli inadatti come unica fonte di energia per i data center. Costruire strutture ridondanti per compensare questa incoerenza può essere necessario ma costoso.

 

L’energia nucleare è emersa come una potenziale soluzione. Le centrali nucleari tradizionali forniscono energia di carico di base affidabile, generando elettricità stabile fondamentale per le operazioni dei data center. Inoltre, si prevede che il mercato globale dell’energia nucleare raggiungerà una crescita costante nel prossimo decennio.

 

Le innovazioni nel settore nucleare offrono possibilità più promettenti. I piccoli reattori modulari (SMR) vengono sviluppati come alternative più piccole, più sicure e più scalabili alle tradizionali centrali nucleari. Sebbene siano ancora in fase di ricerca e sviluppo, gli SMR hanno il potenziale per essere implementati direttamente nei data center, fornendo energia pulita dedicata.

 

Global liquid cooling market (US$b)

▲ Mercato globale del raffreddamento a liquido (miliardi di dollari)

 

 

Tuttavia, l’adozione diffusa dei CGO deve affrontare ostacoli significativi. Le sfide normative e produttive potrebbero ritardare la loro diffusione commerciale di diversi anni. Il governo degli Stati Uniti sta esplorando attivamente soluzioni, comprese le partnership con i giganti della tecnologia per ridurre i costi e semplificare i processi.

 

Un altro modo per ridurre le richieste energetiche dei data center è ottimizzare i carichi di lavoro dell’intelligenza artificiale. Spostando alcune attività di intelligenza artificiale dal cloud ai dispositivi locali con modelli di intelligenza artificiale più piccoli e meno dispendiosi in termini di risorse, è possibile ridurre il consumo energetico complessivo.

 

Lo sviluppo futuro dei data center richiede un approccio multiforme. È essenziale adottare un mix energetico diversificato, comprese fonti energetiche affidabili come l’energia nucleare, ricercando al contempo attivamente soluzioni rinnovabili e innovative come gli SMR. Inoltre, l’ottimizzazione dei carichi di lavoro dell’intelligenza artificiale sui dispositivi locali può promuovere ulteriormente la sostenibilità dei data center.

 

 

 

Invia la tua richiesta