Yapay Zeka Sunucularında Sıvı Soğutma Çözümlerinin Yükselişi: Bir TrendForce Analizi

Oct 03, 2024

Mesaj bırakın

 

Ⅰ Giriş

 

TrendForce tarafından yapılan son ankete göre, sıvı soğutma çözümlerinin penetrasyon oranının, NVIDIA Blackwell platformunun 2024'ün dördüncü çeyreğinde piyasaya sürülmesinin beklenmesi nedeniyle artması bekleniyor. Bu oranın 2024'teki %10'dan 2024'e kadar artması bekleniyor. 2025'te %20'nin üzerinde. Çevresel, Sosyal ve Yönetişim (ESG) faktörlerine ilişkin artan küresel farkındalık, Bulut Hizmet Sağlayıcıları (CSP'ler) tarafından yapay zeka sunucularının hızla oluşturulmasıyla birleştiğinde, geleneksel hava soğutmasından önemli bir değişimin yolunu açıyor gelişmiş sıvı soğutma çözümlerine.

 

Sıvı soğutma, hava soğutmaya göre gelişmiş termal yönetim, azaltılmış gürültü seviyeleri ve artan enerji verimliliği dahil olmak üzere çeşitli avantajlar sunar. Özellikle veri yoğun uygulamalarda yapay zeka yeteneklerine olan talep arttıkça, optimum sunucu performansını korumak için sıvı soğutma sistemlerine geçiş giderek daha kritik hale geliyor.

 

A liquid cooling system installed in an AI server environment, showcasing the advanced cooling technology

▲ Yapay zeka sunucu ortamlarında kullanılan sıvı soğutma sistemi

 

 

Ⅱ NVIDIA'nın Yapay Zeka Sunucu Pazarındaki Hakimiyeti

 

Küresel yapay zeka sunucu pazarında NVIDIA, 2024 itibarıyla GPU yapay zeka sunucu segmentinde %90'a yakın pazar payına sahip olarak liderliğini sürdürüyor. AMD ise yaklaşık %8 pazar payıyla önemli ölçüde geride kalıyor. Bu hakimiyet büyük ölçüde NVIDIA'nın son teknolojisinden ve yapay zeka, makine öğrenimi ve veri analizinde çok çeşitli uygulamaları destekleyen güçlü ekosisteminden kaynaklanmaktadır.

 

TrendForce, NVIDIA Blackwell'in bu yılki sevkiyat ölçeğinin nispeten küçük olduğunu belirtiyor. Bunun temel nedeni, platformun tedarik zinciri içerisinde yüksek hızlı veri iletimi ve soğutma tasarımı gibi alanlarda sürekli optimizasyon gerektiren son test ve doğrulama süreçlerinden geçmesidir. Blackwell platformunun özellikle GB200 raf çözümünde artan enerji tüketimi, üstün soğutma verimliliği gerektirmekte ve sıvı soğutma çözümlerinin benimsenmesini daha da hızlandırmaktadır.

 

NVIDIA Blackwell platform designed for high-performance AI server applications

▲ Yapay zeka sunucuları için NVIDIA Blackwell platformu

 

Sıvı soğutmanın avantajlarına rağmen mevcut sunucu ekosistemi hala bu teknolojinin benimsenme oranının düşük olduğunu gösteriyor. Orijinal Tasarım Üreticileri (ODM'ler), sızıntı ve soğutma verimliliğiyle ilgili zorlukların üstesinden gelmek için bir öğrenme eğrisinde ilerlemelidir. Blackwell platformundaki üst düzey GPU'ların oranının 2025 yılına kadar %80'i aşması beklendiğinden, bu durum, ortaya çıkan yapay zeka sıvı soğutma pazarında güç kaynağı üreticileri ve soğutma endüstrisi arasındaki rekabeti ateşleyerek yeni bir rekabet ortamına yol açacak.

 

 

 

Ⅲ Büyük CSP'ler Tarafından Hızlandırılmış Dağıtım

 

Google, AWS ve Microsoft'un da aralarında bulunduğu büyük bulut hizmeti sağlayıcıları, ağırlıklı olarak NVIDIA GPU'ları ve kendi geliştirdikleri ASIC'leri kullanarak son yıllarda yapay zeka sunucu dağıtımlarını hızla hızlandırdı. NVIDIA'nın GB200 NVL72 kabininin termal tasarım gücü (TDP) yaklaşık 140 kW olup, ısı dağıtımını etkili bir şekilde yönetmek için sıvı soğutma çözümlerine olan acil ihtiyacın altını çiziyor. Sıvıdan havaya (L2A) soğutma yöntemlerinin bu bağlamda ana yaklaşım haline gelmesi bekleniyor.

 

AI server deployment in modern data centers, highlighting the use of advanced cooling solutions

▲ Veri merkezlerinde AI sunucu dağıtımı

 

NVIDIA'nın GPU'ları hakim olsa da Google, Tensör İşleme Birimleri (TPU'lar) için sıvı soğutma çözümlerini keşfetme konusunda da proaktif davranıyor. Google'ın bu teknolojiye olan bağlılığı, onu sıvı soğutmanın benimsenmesinde en ileriyi düşünen ABD şirketi konumuna getiriyor. BOYD ve Cooler Master, Google'ın yüksek performanslı bilgi işlem ortamlarında optimum sıcaklıkları korumak için kritik öneme sahip soğuk plakalarının ana tedarikçileridir.

 

Alibaba, Çin anakarasındaki sıvı soğutma veri merkezlerini agresif bir şekilde genişletiyor ve bu gelişmiş soğutma teknolojisine doğru küresel değişimi daha da vurguluyor. Diğer bulut hizmeti sağlayıcıları, kendi geliştirdikleri AI ASIC'leri için öncelikle hava soğutma çözümlerine güvenmeye devam ediyor ve bu, sıvı soğutmalı sistemlere kıyasla performansı engelleyebiliyor.

 

 

Ⅳ Ana Tedarikçiler ve Bileşen Tanımı

 

Sıvı soğutmaya geçiş ivme kazandıkça, bulut hizmet sağlayıcıları GB200 kabininin sıvı soğutma çözümleri için ana bileşen tedarikçilerini belirliyor. Şu anda Qihong ve Cooler Master soğuk plakalar için lider tedarikçiler olurken, manifold bileşenleri Cooler Master ve Shuanghong'dan temin ediliyor. Soğutma sıvısı dağıtım üniteleri (CDU'lar), Vertiv ve Delta gibi sektör liderleri tarafından sağlanmaktadır.

 

Hızlı bağlantı kesme (QD'ler) gibi önemli sızıntı önleme bileşenleri için CPC, Parker Hannifin, Danfoss ve Staubli gibi üreticiler satın alma sürecine yoğun bir şekilde katılıyor. Jiazhe ve Fushida gibi ek tedarikçiler doğrulama aşamasına girdikçe, 2025'in ilk yarısında hızlı bağlantı kesen bileşenleri tedarik etme fırsatlarına sahip olacaklar ve bu da mevcut arz-talep dengesizliğinin azaltılmasına yardımcı olacak.

 

Various suppliers involved in the liquid cooling component supply chain for AI servers.

▲ Sıvı soğutma bileşenleri için ana tedarikçiler

 

 

Ⅴ Sıvı Soğutmanın Avantajları

 

Gelişmiş Soğutma Verimliliği

Sıvı soğutma sistemleri, ısıyı hava soğutma sistemlerine göre daha verimli bir şekilde uzaklaştıracak şekilde tasarlanmıştır. Bu, işlemcilerin yüksek hesaplama talepleri nedeniyle önemli miktarda ısı üretebildiği yapay zeka uygulamalarında özellikle önemlidir. Isıyı bileşenlerden absorbe etmek ve uzaklaştırmak için sıvının kullanılmasıyla sunucular daha düşük sıcaklıklarda çalışabilir, bu da termal daralma riskini azaltır ve performansı artırır.

 

Alan Optimizasyonu

Sıvı soğutma sistemleri genellikle geleneksel hava soğutma çözümlerine göre daha az yer kaplar ve daha verimli veri merkezi tasarımına olanak tanır. Bu yerden tasarruf sağlayan özellik, fiziksel ayak izini genişletmeden sunucu kapasitesini en üst düzeye çıkarmak isteyen kuruluşlar için özellikle faydalıdır.

 

Enerji Verimliliği

Sürdürülebilirlik ve enerji verimliliğine daha fazla odaklanılmasıyla sıvı soğutma çözümleri, veri merkezlerinin genel enerji tüketiminin azaltılmasına yardımcı olabilir. Sıvı soğutma, fanlara ve klima ünitelerine olan bağımlılığı en aza indirerek enerji maliyetlerini ve karbon ayak izini azaltabilir ve birçok şirketin ulaşmaya çalıştığı ESG hedefleriyle uyumlu hale gelebilir.

 

Gürültü Azaltma

Sıvı soğutma sistemleri, geleneksel hava soğutmalı sistemlere göre daha sessiz çalışarak veri merkezlerinde daha keyifli bir çalışma ortamı oluşmasını sağlar. Bu gürültü azaltımı, yerleşim yerlerinin yakınında veya ofis binalarının içinde bulunan tesisler için önemli bir husustur.

 

 

Ⅵ Yaygın Sorunların Çözümü

 

Faydalarına rağmen sıvı soğutmaya geçiş bazı zorlukları da beraberinde getiriyor. Bunlar şunları içerir:

 

Başlangıç ​​Maliyetleri

Sıvı soğutma sistemleri için ön yatırım, geleneksel hava soğutma çözümlerinden daha yüksek olabilir. Kuruluşların bu maliyetleri, enerji verimliliği ve bakımdaki uzun vadeli faydalar ve tasarruflarla karşılaştırması gerekir.

 

Sızıntı Sorunları

Sıvı soğutmayla ilgili en önemli zorluklardan biri sızıntı riskidir. Bu riski azaltmak ve sistem güvenilirliğini sağlamak için uygun tasarım, malzeme seçimi ve bakım protokolleri çok önemlidir.

 

Bakım Karmaşıklığı

Sıvı soğutma sistemleri, hava soğutmalı sistemlere göre daha karmaşık bakım gerektirir. Kuruluşlar, sıvı soğutma çözümlerinin etkili ve sorunsuz kalmasını sağlamak için personelini eğitmeli veya uzman hizmet sağlayıcılarla iletişime geçmelidir.

 

 

Ⅶ Sıvı Soğutmada Gelecekteki Trendler

 

Yapay zeka bilişimine olan talep artmaya devam ettikçe, sıvı soğutma ortamını şekillendirecek gelecekteki bazı trendlerin olması bekleniyor:

 

Hibrit Çözümlerin Benimsenmesi

Hem hava hem de sıvı soğutma teknolojilerini birleştiren hibrit soğutma sistemlerinin ilgi görmesi muhtemeldir. Bu sistemler, farklı iş yüklerine ve operasyonel ihtiyaçlara uyum sağlayarak esneklik ve verimlilik sağlayabilir.

 

Gelişmiş Malzemeler

Sıvı soğutma bileşenleri için gelişmiş malzemelerin geliştirilmesi performansı ve güvenilirliği artırabilir. Malzeme bilimindeki yenilikler daha hafif, daha dayanıklı ve daha etkili soğutma çözümlerine yol açabilir.

 

Yapay zeka ve IoT ile entegrasyon

Yapay zeka ve IoT teknolojilerinin soğutma sistemlerine entegrasyonu, ortam koşullarına ve sunucu iş yüklerine göre gerçek zamanlı izleme ve otomatik ayarlamalar sağlayarak performansı optimize edebilir.

 

Sürdürülebilirlik Odaklılığı

Şirketler sürdürülebilirliğe giderek daha fazla öncelik verdikçe, çevre dostu soğutucular ve malzemeler kullanan sıvı soğutma çözümleri daha yaygın hale gelecektir. Endüstri, atığı ve çevresel etkiyi en aza indirmek için kapalı döngü sistemlere doğru bir geçiş görebilir.

 

 Future trends in liquid cooling technology

▲ Sıvı soğutma teknolojisinde gelecekteki trendler

 

 

 

Ⅷ Sonuç

 

Yapay zeka sunucularında havadan sıvı soğutma çözümlerine geçiş, teknolojideki gelişmeler ve verimli termal yönetime yönelik artan talebin etkisiyle sektörde önemli bir evrimi temsil ediyor. NVIDIA'nın yapay zeka sunucu pazarındaki liderliği ve Google gibi büyük bulut hizmet sağlayıcılarının aktif olarak sıvı soğutma seçeneklerini keşfetmesiyle birlikte, manzara hızla değişiyor.

 

Kuruluşlar, sıvı soğutmanın faydalarını ve zorluklarını ve bunun uygulanmasında yer alan kilit oyuncuları anlayarak, yapay zeka ortamında daha iyi performans, sürdürülebilirlik ve rekabet gücü için bu teknolojiden yararlanmak üzere kendilerini daha iyi konumlandırabilirler. Sektör ilerledikçe sıvı soğutma çözümleri veri merkezlerinin geleceğini şekillendirmede önemli bir rol oynayacak ve yeni nesil yapay zeka uygulamalarının taleplerini karşılayabilmelerini sağlayacak.

 

 

 

 

Soruşturma göndermek