Sıvı Soğutma Teknolojisi: AIGC Döneminde Veri Merkezlerinin Soğutma Zorluklarıyla Başa Çıkmak

 

Yapay Zeka Tarafından Üretilen İçerik'in (AIGC) hızla gelişmesiyle birlikte, bilgi işlem gücüne olan talep patladı ve bu da veri merkezlerinin güç tüketimi ve termal yönetim ihtiyaçlarında keskin bir artışa yol açtı. AI model eğitimi ve çıkarımı sırasında yüksek bilgi işlem kaynağı gereksinimleri, sunucu ısı üretimini önemli ölçüde artırarak soğutma teknolojileri için çıtayı yükseltti. Colocation America'nın bir raporuna göre, küresel veri merkezlerindeki kabin başına ortalama güç 2020'de 16,5 kW'a yükseldi ve bu 2008'e kıyasla %175'lik bir artış anlamına geliyor. Sonuç olarak, sıvı soğutma teknolojisi veri merkezi soğutma çözümleri için yeni bir odak noktası haline geldi.

 

NVIDIA bu yılki GTC konferansında yalnızca B200 ve GB200 yongalarını sergilemekle kalmadı, aynı zamanda bunlara eşlik eden sıvı soğutma teknolojisini de vurguladı. Ayrıca, 2024 SIEPR Ekonomik Zirvesi'nde NVIDIA CEO'su Jensen Huang, yeni nesil DGX GPU sunucularının sıvı soğutmayı tamamen benimseyeceğini açıkladı. NVIDIA'nın kararı, sektörde bir trend belirleyerek sıvı soğutma teknolojisinin geliştirilmesine yeni bir ivme kazandırdı. Yapay zeka teknolojisi gelişmeye devam ederken, sıvı soğutmanın önemi giderek daha belirgin hale geliyor. Sıvı soğutma teknolojisi yalnızca veri merkezlerinin enerji tüketimini önemli ölçüde azaltmakla kalmıyor, aynı zamanda sunucu operasyonel verimliliğini artırıyor ve ekipman ömrünü uzatıyor. Bu nedenle, sıvı soğutma giderek veri merkezi soğutma çözümleri için öncelikli bir değerlendirme haline geliyor.

 

 

I Veri Merkezi Soğutma Yöntemlerinin Karşılaştırılması

 

Günümüzde, veri merkezi soğutma sistemleri temel olarak iki türe ayrılır: hava soğutma ve sıvı soğutma. Sıvı soğutma teknolojisi, sunucunun ısı üreten bileşenleriyle ısı alışverişinde bulunmak için havayı sıvı bir ortamla değiştirir, böylece ısıyı uzaklaştırır ve sunucunun optimum sıcaklık aralığında kararlı bir şekilde çalışmasını sağlar. Buna karşılık, hava soğutma, havanın hareketi yoluyla ısıyı dağıtmak için fanlara ve klima sistemlerine güvenir. Sıvı soğutma, ısı üreten bileşenleri doğrudan soğutur, havadan 25 kat daha büyük bir termal iletim verimliliği, 1,000 ila 3.500 kat daha yüksek bir özgül ısı kapasitesi ve havadan 10 ila 40 kat daha büyük bir konvektif ısı transfer verimliliği elde eder. Dolayısıyla, aynı koşullar altında, sıvı soğutma teknolojisi soğutma verimliliğinde hava soğutmayı çok geride bırakır.

 

▲ Veri merkezi soğutma sistemleri

 

▲ Sıvı soğutma teknolojisi ve Hava soğutma

 

Hava soğutmaya kıyasla, sıvı soğutma daha yüksek soğutma verimliliği ve daha düşük enerji tüketimi sağlar. Yüksek yoğunluklu bilgi işlem ortamlarında, hava soğutma sistemleri genellikle soğutma taleplerini karşılamakta zorlanırken, sıvı soğutma bu zorluğun üstesinden etkili bir şekilde gelebilir. Ek olarak, sıvı soğutma düşük gürültü ve daha küçük ayak izi gibi avantajlar sunarak, modern veri merkezlerinin yüksek yoğunluklu yapılandırmaları ve yeşil enerji tasarrufu gereksinimleri için oldukça uygundur.

 

 

II Yapay Zeka Çağında Sıvı Soğutmanın Gelişimini Tetikleyen Nedir?

 

1. Bilgisayar Çiplerinin Yükselen Isı Gücü: Hava Soğutması Sınırına Ulaşıyor

Yapay zeka teknolojisinin hızla gelişmesiyle birlikte, bilgi işlem gücüne olan talep artmaya devam ediyor ve bu da yongalarda artan ısı üretimi ve ısı akısı yoğunluğuna yol açıyor. Yongalar uzun süreler boyunca yüksek sıcaklıklarda çalıştığında, performansları ve kullanım ömürleri olumsuz yönde etkileniyor ve arıza oranları artıyor. Araştırmalar, bir yonganın çalışma sıcaklığı 70-80 dereceye yaklaştığında, her 10 derecelik artışın performansını yaklaşık %50 oranında azaltabileceğini gösteriyor.

 

Şu anda Intel'in CPU'ları 350W'a kadar termal tasarım gücüne (TDP) sahipken, NVIDIA'nın H100'ü 700W'a ulaşıyor ve gelecekteki B100 1,000W'a ulaşabilir ve hava soğutmanın 800W tek nokta soğutma sınırına yaklaşabilir. Hesaplama çipi güç tüketimi artmaya devam ettikçe ve CPU ve GPU güç tüketimi toplam AI sunucu gücünün yaklaşık %80'ini oluşturduğundan, hava soğutmayı kullanmaya devam etmek sıralı klima ihtiyaçlarında önemli bir artışa yol açacaktır. Yüksek yoğunluklu soğutma senaryolarında, sıvı soğutma önemli maliyet ve performans avantajları sunar.

 

Yonga tarafının dışında, veri merkezlerindeki kabin başına güç yoğunluğu da artışta. Geleneksel hava soğutması genellikle 12KW ila 15KW aralığındaki kabin soğutma ihtiyaçlarını karşılar.2022 Küresel Veri Merkezi Anketi RaporuUptime Institute'a göre, tek bir NVIDIA DGX A100 sunucusu için maksimum güç 6,5 KW'tır ve standart 42U yüksekliğindeki bir kabin, kabin başına 20 KW'ı aşan toplam güçle yaklaşık beş 5U yüksekliğindeki AI sunucusunu barındırabilir. Geleneksel hava soğutması, AI sunucu kabinlerinin soğutma ihtiyaçlarını karşılayamaz.

 

2. Veri Merkezi Enerji Tasarrufu İhtiyaçları Tarafından Yönlendirilir: Daha Yüksek PUE Gereksinimleri

PUE (Güç Kullanım Etkinliği), veri merkezi enerji verimliliğini değerlendirmek için önemli bir göstergedir ve şu şekilde hesaplanır: PUE=Toplam Veri Merkezi Enerji Tüketimi / BT Ekipmanı Enerji Tüketimi. PUE değeri 1'e ne kadar yakınsa, veri merkezinin enerji verimliliği o kadar yüksektir; tersine, PUE değeri ne kadar yüksekse, genel verimlilik o kadar düşüktür.

 

İstatistikler veri merkezi güç tüketimini birkaç bölüme ayırır: BT ekipmanı %45, soğutma sistemleri %43, güç kaynağı ve dağıtım sistemleri %10 ve aydınlatma ve diğer kullanımlar %2'dir. Bunlar arasında, klima sistemi enerji tüketimi yalnızca BT ekipmanından sonra gelir, bu nedenle BT sistemleri yükseltilemediğinde klima sistemi enerji tüketimini azaltmak özellikle önemli hale gelir.

 

"Karbon zirvesi" ve "karbon nötrlüğü"ne ulaşma ulusal hedefleri ve "Doğu Verisi, Batı Hesaplaması" stratejisi bağlamında, yeni yayınlananYeşil Veri Merkezi Hükümet Tedarik Talep Standartları (Deneme)daha sıkı PUE gereklilikleri getirir.Bu standart, Haziran 2023'ten itibaren veri merkezi PUE'sinin 1,4'ü geçmemesi gerektiğini ve 2025'e kadar gereksinimin 1,3'ten fazla olmayan bir PUE olacağını şart koşmaktadır. CDCC ve Inspur Information'dan alınan verilere göre, hava soğutma kullanan veri merkezlerinin PUE'si genellikle 1,4 ile 1,5 arasındayken, sıvı soğutma teknolojisi PUE'yi 1,2'nin altına düşürebilir. Bu nedenle, daha enerji verimli ve etkili sıvı soğutma teknolojisini benimsemek bir trend haline gelmiştir.

 

Veri merkezlerindeki enerji tüketimi, özellikle küresel enerji kaynağı kısıtlamaları ve artan çevre bilinci zemininde, uzun zamandır endüstrinin ilgi odağı olmuştur. Veri merkezi enerji verimliliğini iyileştirmek özellikle önemlidir. Daha verimli soğutma çözümleri sağlayarak sıvı soğutma teknolojisi, klima sistemi enerji tüketimini azaltır ve böylece veri merkezi PUE değerlerini önemli ölçüde düşürür. Bu teknoloji yalnızca operasyonel maliyetleri düşürmeye yardımcı olmakla kalmaz, aynı zamanda sürdürülebilir kalkınma hedefleriyle uyumlu olarak karbon emisyonlarını da düşürür.

 

 

▲ Veri Merkezi Enerji Tüketimi

 

 

Sıvı Soğutma Teknolojisinin III. Sınıflandırılması

 

Sıvı soğutma sistemleri, sıvının donanımla nasıl etkileşime girdiğine bağlı olarak doğrudan sıvı soğutma ve dolaylı sıvı soğutma olarak sınıflandırılabilir. Doğrudan sıvı soğutma, sıvının ısıyı aktarmak için donanım bileşenleriyle doğrudan temas etmesini içerir. Bu yöntem, daldırma soğutma ve püskürtme soğutma olarak daha da ayrılabilir. Daldırma soğutma, donanım bileşenlerini tamamen sıvıya batırırken, püskürtme soğutma sıvının doğrudan donanıma püskürtülmesini içerir.

 

Öte yandan dolaylı sıvı soğutma, ısıyı iletmek için bir ara bileşen (örneğin bir ısı değiştirici veya soğutma plakası) kullanır ve sıvının donanımla doğrudan temas etmesini önler. Yaygın bir dolaylı sıvı soğutma sistemi, soğutma ortamının faz değişimine uğrayıp uğramamasına bağlı olarak tek fazlı ve iki fazlı soğuk plaka soğutma olarak daha da bölünebilen soğuk plaka sıvı soğutma sistemidir.

 

▲ Sıvı Soğutma Yöntemlerine Giriş

 

1. Soğuk Plakalardan Daldırma Soğuk Plakalara

Sıvı soğutma teknolojisi, ısı üreten bileşenlerden gelen ısıyı soğuk plakalar aracılığıyla bir soğutma sıvısına aktarır ve soğutma sıvısı daha sonra ısıyı soğutma özellikleriyle dağıtır. Bu sistemde, çalışma sıvısı doğrudan elektronik bileşenlerle temas etmez ve bu da bilgisayar sisteminde minimum değişikliklere neden olur. Orijinal hava soğutmalı ısı emici, basitçe bir sıvı soğutma kitiyle değiştirilebilir ve soğutma boruları şasinin dışına yönlendirilebilir. Bu teknoloji, orta ila yüksek ısı akısı yoğunluklarına sahip soğutma gereksinimleri için özellikle uygundur.

 

Soğuk plaka sıvı soğutma sistemi temel olarak bir soğutma kulesi, bir Soğutucu Dağıtım Ünitesi (CDU), birincil ve ikincil sıvı soğutma devreleri, soğutma ortamı ve sıvı soğutmalı bir kabinden oluşur. Birincil devre, ısıyı ikincil devreden dış ortama veya diğer ısı geri kazanım ünitelerine boşaltan döngüyü ifade ederken, ikincil devre, ısıyı sunuculardan uzaklaştıran ve birincil devre aracılığıyla dağıtan döngüyü ifade eder. İki devre, ısıyı CDU veya Soğutucu Dağıtım Ünitesi aracılığıyla değiştirir.

 

Soğuk plaka sıvı soğutma sisteminin çalışma prensibi nispeten basittir, ancak pratik uygulamalarda, soğuk plakaların tasarımı, soğutma sıvılarının seçimi ve sistem bakımı için değerlendirmeler yapılması gerekir. Ek olarak, soğuk plaka sıvı soğutma sistemleri yüksek ısı akışı yoğunluklu ortamlarda olağanüstü performans gösterir ve bu da onları modern veri merkezlerinin yüksek yoğunluklu düzen gereksinimleri için oldukça uygun hale getirir.

 

▲ Soğuk Plaka Sıvı Soğutma Sisteminin Şematik Diyagramı

 

Daldırma sıvı soğutma sistemleri, ısı üreten bileşenleri doğrudan iletken olmayan soğutma sıvılarına daldırarak verimli ısı dağılımı sağlar. Soğutma sıvısının sirkülasyon sırasında faz değişimi geçirip geçirmediğine bağlı olarak, daldırma sıvı soğutması tek fazlı daldırma soğutma ve iki fazlı daldırma soğutma olarak ikiye ayrılabilir.

 

Tek fazlı daldırma soğutmada, soğutma sıvısı faz değişimi olmadan sadece ısı değişimi süreci sırasında bir sıcaklık değişimi geçirir. Isı transferi tamamen sıvının hissedilir ısı değişimine dayanır ve sıvının ısıtıldığında genleşmesi ve yoğunluğunun azalması özelliğini kullanır. Daha sıcak soğutma sıvısı doğal olarak yükselir ve harici bir soğutma döngüsünün ısı değiştiricisi tarafından soğutulur. Soğutulan sıvı daha sonra yer çekimi altında batar ve soğutma döngüsünü tamamlar. Bu yöntemde, soğutma sıvısı tüm süreç boyunca sıvı halde kalır. Bunun aksine, iki fazlı daldırma soğutma, soğutma sıvısının ısı dağılımı sırasında sıvıdan gaza faz değişimi geçirmesini ve ardından gazdan sıvıya geri dönmesini içerir.

 

Bir daldırma sıvı soğutma sistemi hem iç hem de dış bileşenleri içerir. Dış taraf bir soğutma kulesi, birincil boru hattı ağı ve birincil soğutma sıvısı içerir; iç taraf bir Soğutucu Dağıtım Ünitesi (CDU), daldırma tankı (kabin), BT ekipmanı, ikincil boru hattı ağı ve ikincil soğutma sıvısı içerir. Kullanım sırasında BT ekipmanı soğutma sıvısına tamamen daldırılır, bu nedenle soğutma sıvısının seçimi silikon yağı veya florlu sıvılar gibi iletken olmayan sıvıları dikkate almalıdır.

 

▲ Tek Fazlı Daldırma Sıvı Soğutmanın Şematik Diyagramı

 

Sprey soğutma mevcut olsa da, uygulaması nispeten sınırlıdır ve yüksek yoğunluklu sunucular ve büyük ölçekli veri merkezleri için uygun değildir. Kısa vadede, soğuk plaka sıvı soğutma, olgunluğu, mevcut sistemlerle uyumluluğu, bakım kolaylığı ve düşük yenileme maliyetleri nedeniyle AI çağının soğutma ihtiyaçları ve veri merkezlerinin hava soğutmadan sıvı soğutmaya geçişi için oldukça uygundur. Uzun vadede, mükemmel termal iletkenliği, verimli atık ısı geri kazanım kapasitesi ve daha yüksek kabin gücü desteği ile daldırma sıvı soğutma, gelecekteki veri merkezlerinin gelişen soğutma ihtiyaçları için daha uygun olacaktır. Özellikle kabin ünitesi gücü artmaya devam ettikçe, daldırma sıvı soğutma daha verimli soğutma çözümleri sağlayabilir ve veri merkezlerinin genel Güç Kullanım Etkinliğini (PUE) azaltmaya yardımcı olabilir.

 

2. Akıllı Bilgi İşlem Merkezleri için Tercih Edilen Seçim – Sıvı Soğutma

Güç yoğunluğu arttıkça, sıvı soğutma çözümleri daha yeni inşa edilen GPU hesaplama merkezleri için tercih haline geliyor. IDC'nin "China Semiannual Liquid-Cooled Server Market (H1 2023) Tracker" raporuna göre, Çin sıvı soğutmalı sunucu pazarı 2023'te 1,51 milyar dolara ulaştı. IDC, 2022'den 2027'ye kadar Çin sıvı soğutmalı sunucu pazarının bileşik yıllık büyüme oranının %54,7'ye ulaşacağını ve pazar büyüklüğünün 2027'ye kadar 8,9 milyar dolara ulaşmasının beklendiğini öngörüyor.

 

Akıllı bilgi işlem merkezlerinde sıvı soğutma teknolojisinin uygulanması yalnızca bilgi işlem performansını artırmakla kalmaz, aynı zamanda enerji tüketimini ve işletme maliyetlerini de önemli ölçüde azaltır. Sıvı soğutma teknolojisinin teşvik edilmesi, veri merkezlerini daha verimli, yeşil ve akıllı gelişime doğru yönlendirecek ve yapay zeka çağında veri işleme ihtiyaçlarını karşılamak için sağlam bir temel sağlayacaktır.

 

▲ Sıvı Soğutma Sunucusu Pazar Boyutu

 

IV Sıvı Soğutma Endüstri Zinciri

 

Sıvı soğutma endüstrisi zinciri üç ana segmenti kapsar: yukarı akış ürün bileşeni tedarikçileri, orta akış sıvı soğutmalı sunucu üreticileri ve aşağı akış bilgi işlem gücü kullanıcıları. Mevcut aşağı akış kullanıcıları arasında, Alibaba gibi yerel şirketler tek fazlı daldırma sıvı soğutmanın geliştirilmesine odaklanırken, Baidu, Tencent ve JD.com gibi diğerleri çoğunlukla soğuk plaka sıvı soğutmayı kullanır. Denizaşırı ülkelerde, daldırma soğutma soğuk plaka soğutmadan daha gelişmiştir ve Intel, Google ve Meta gibi önde gelen ABD şirketleri, özellikle yapay zeka desteğiyle daldırma sıvı soğutmanın hızla geliştirilmesini sağlar.

 

▲ Sıvı Soğutma Endüstri Zinciri

 

 

V Daldırma Sıvı Soğutma Teknolojisindeki Potansiyel Sorunlar

 

1. Soğutma Suyu Seçimi

Soğutma sıvısı, sıvı soğutma teknolojisindeki temel ham maddelerden biridir ve yüksek bir teknik bariyer sunar. Daldırma sıvı soğutma teknolojisinde, soğutma sıvısının doğrudan elektronik ürünlerle temas etmesi gerekir, bu nedenle soğutma sıvısının performansına mükemmel ısı iletkenliği, iyi yalıtım ve malzeme uyumluluğu gibi yüksek gereksinimler yüklenir. Ek olarak, koku, toksisite ve bozulma kolaylığı gibi çevresel özellikler de önemlidir ve soğutma sıvısı mümkün olduğunca kullanıcı dostu ve çevre dostu olmalıdır.

 

Günümüzde en yaygın kullanılan daldırma soğutucular arasında hidrokarbonlar ve organosilikonlar (genellikle mineral yağ gibi "yağlar" olarak anılır) ve florlu bileşikler (florlu sıvılar gibi) yer alır. Florlu sıvılar genel olarak iyi performans gösterir ve ideal sıvı soğutma malzemeleri olarak kabul edilir. Ancak florlu sıvılarla ilgili en büyük zorluk yüksek maliyetleridir. Giderek daha sıkı çevre koruma gereksinimleriyle birlikte, daha yüksek termal iletkenliğe ve daha düşük yoğunluğa sahip olan silikon yağı da daha çevre dostudur. Soğutma ortamının seçimi esas olarak soğutma sürecine bağlıdır.

 

2. Optik Yol Sızdırmazlık Sorunları

Florlu sıvılar veya silikon yağlar gibi soğutucular, devre kısa devrelerini etkili bir şekilde önleyen mükemmel yalıtım özelliklerine sahiptir. Düşük frekanslı sinyal koşulları altında, bu soğutucular sinyal iletimi ile minimum düzeyde etkileşime sahiptir. Ancak, yüksek frekanslı sinyaller altında, soğutucunun sinyal iletimi üzerindeki etkisi dikkatli bir değerlendirme ve kontrol gerektirir. Genel olarak, devreler üzerindeki etki yönetilebilir.

 

Optik yollara gelince, veri merkezlerindeki optik modüllerin çoğu hermetik olmayan paketlemeyle tasarlanmıştır, yani uygun değişiklikler yapılmadığında soğutucu optik boşluğa girebilir ve optik performansı etkileyebilir. Hermetik paketlemeyle bile, lensler gibi bazı pasif optik yollar hermetik bölmenin dışında kalır.

 

Optik yolların tasarımı genellikle havanın kırılma indisine (yaklaşık 1.0) dayanır. Optik bileşenler bir soğutucuya daldırıldığında, havadan farklı olan soğutucunun kırılma indisi, odak noktalarında ve bağlantı verimliliğinde değişikliklere neden olabilir. Örneğin, florlu yağın kırılma indisi genellikle 1,3 civarındadır ve kırılma indisindeki bu değişiklik optik yol tasarım parametrelerinde ayarlamalar gerektirebilir.

 

Daldırma sıvı soğutmanın optik ve elektriksel yollar üzerindeki potansiyel etkisini ele almak için sektör, soğutma ortamına uyarlanmış yeni optik modül paketleme teknolojileri geliştirmek, yüksek frekanslı sinyaller için devre tasarımını optimize etmek ve daldırma soğutmaya daha uygun optik malzemeler ve yapılar araştırmak gibi çeşitli önlemler almaktadır.

 

3. Entegre Teslimat ve Ayrık Teslimat

Şu anda soğuk plakalı sıvı soğutmalı sunucular için üç teslimat modeli bulunmaktadır:

① BT ekipman tarafı yalnızca sıvı soğutmalı sunucuyu sunar;

② BT tarafı "sıvı soğutmalı sunucu + sıvı soğutmalı kabin" sunar;

③ BT tarafı "sıvı soğutmalı sunucu + sıvı soğutmalı kabinet + CDU + ikincil devre"yi sunar.

 

Üçüncü teslimat modeli, tüm kabinin entegre tasarım ve geliştirme için kendi tanımladığı bir standartla aynı üretici tarafından teslim edildiği entegre teslimat, en yaygın kullanılanıdır. Ayrık teslimat, sıvı soğutmalı kabin ve sıvı soğutmalı sunucu arasında kullanıcı tanımlı arayüz tasarım özelliklerini takip etmeyi içerir ve kabin ve sunucu farklı üreticiler tarafından teslim edilir. Altyapı ve sunucu üreticilerinin koordine olması ve işbirliği yapması gerekir. Ayrık teslimatın ölçeklenmesi ve esnek bir şekilde dağıtılması daha kolaydır.

 

▲ Soğuk Plaka Sıvı Soğutmalı Sunucu Teslimat Modu Farklılığı

 

Şu anda, Çin'deki sıvı soğutma teknolojisindeki standardizasyon seviyesi nispeten düşüktür. Farklı sunucu ekipmanları, soğutucular, soğutma boru hatları ve güç kaynağı ürünleri biçim olarak farklılık gösterir ve standartlaştırma ve büyük ölçekli uygulama için zorluklar sunan birleşik bir arayüz standardı yoktur. Üç büyük yerel telekom operatörü tarafından yayınlanan teknik belgeler, sıvı soğutma teknolojisi için üç yıllık bir vizyonun ana hatlarını çizer, teknolojiyi kademeli olarak doğrular ve test eder ve 2025 yılına kadar sıvı soğutmanın büyük ölçekli uygulamalarına başlamayı planlar. Veri projelerinin %50'sinden fazlasının bu teknolojiyi benimsemesi, sıvı soğutmanın standardizasyonunu ve büyük ölçekli uygulamasını teşvik etmesi ve ayrıştırılmış teslimatı desteklemesi bekleniyor.