データセンターの常識を変える基幹冷却技術
「水浸冷却方式」
独自液浸冷却技術の研究開発と進化
ZYRQは、2014年以来、国内における液浸冷却技術の先駆者として研究開発を敢行し、2023年より従来の液浸冷却技術に代わる新冷却方式の研究開発に着手しました。400種類以上の試行による基礎実験を繰り返した結果として、これまでは不可能であると思われていた、超純水や純水といった特殊な水ではない水道水などの一般の「水」を主冷媒としながら、既存のどの冷却方式と比較しても非常に強力な冷却性能を、安価かつ最小限の構成で実現可能な全く新しい「水浸」冷却方式を確立しました。
※Gen2の液浸冷却技術については、こちらをご参照ください。
1.独自開発の水浸冷却方式の特長
これまでの液浸冷却方式の優位性の殆どを引き継ぎつつ、従来の液浸冷却方式の問題点であったPFAS(フッ化炭素化合物)を全く使用せず、一般の「水」による直接的な冷却を可能する画期的な水浸冷却方式として開発され、新技術の特長は以下の通りです。
-
水浸槽内を内循環させる主冷媒としては、安全で安価に利用可能な一般的な水道水のみを利用する
-
水浸槽毎に設置される熱交換器を介して内循環する水に熱伝導させるために、水浸槽外部で外循環させる二次冷媒としては、自然水である地下水、河川水、湖沼水、海水などを利用可能であるが、そうした自然水は、気化させることなく、僅か数度の温度上昇のみで自然環境に戻されることで水量が失われることがない。また、そうした自然水を二次冷媒として利用できない場合には、室外冷凍機により冷却される非フロン性冷媒などを使用することも可能である
-
内循環させる主冷媒にGPGPUなどを実装した電子基板を液浸させる際、高い導電性を有する水に浸漬させるため、この水はGPGPUの半導体表面には専用開発した熱伝導構造体を介して直接的に接触させながらも、その他の部位や電子部品については電気伝導性がなく、一定の熱伝導性と耐久性を有した柔軟なフィルムで被覆を行うことにより、電気的短絡(ショート)を完全に回避している
-
熱伝導構造体とフィルムの接合部は、長期使用によって接合部の水密が破れて、フィルム内部に水が浸入してしまうと、高額なGPGPUを含む電子基板全体が電気的短絡により不可逆に破損してしまうことから、水密性能を長期間担保することが可能な新しい構造を考案して、実用化している
-
単なる液浸冷却方式では、冷媒として最も強力な水を使用したとしても、1,000Wもの発熱を生ずるGPGPUから絶えず十分な抜熱を行うことは不可能であり、GPGPU温度が半導体として動作可能な上限値である105℃を短時間で上回ってしまうことから、強力な抜熱を実現する手法として、水浸槽内には潤沢に存在している主冷媒の水を、水浸槽毎に奢られた個別のCDU(冷媒配分ユニット)で高速に内循環させた上で、更にGPGPU毎に局所強制対流を強力に与えることで、既存技術では得ることが叶わなかった極めて高い抜熱能力が得られ、その結果、GPGPU温度を25℃にまで低下させることに成功している
-
GPGPU温度を25℃にまで低下させて安定稼働を行えることにより、GPGPUの種類によっては、その消費電力を半分以下に低減させることが可能となる一方で、水浸冷却方式を機能させるために必要な電力は、外循環用、内循環用のそれぞれのポンプ駆動のために使用される、相対的には非常に小さい電力だけであり、システム全体の消費電力を大きく削減可能である
-
第5世代までの開発を行うことで、水浸冷却構造を突き詰めることが可能となり、水浸槽の内循環を水のみとすることに成功して大幅な構造の簡素化を実現したことで、水自体が本来持つ非常に強力な冷却能力を最小限の体積で引き出すことに繋がり、既存方式では到達不可能な非常に高い冷却熱容量密度を達成している
水浸冷却方式によるシステム(検証5号機)の実際の写真
写真左:水浸槽外観、写真中央:水浸槽上部(システムボード水浸の状態)
2.圧倒的な冷却能力と省電力効果
水浸冷却方式では、空冷による冷却方式や水冷方式と比べ大規模な空調設備を必要としないため、冷却設備に関わる電力がほぼ無くなり、加えて専用に設計された半導体を使用することにより、さらに消費電力を大幅に下げることが可能となります。これによりデータセンター全体の消費電力の実に75%以上の電力使用量の削減が可能となります。
また、熱伝導率が最も優れた「水」をシステムボード全体の冷却に用いることにより、非常に高い冷却能力を得ることが可能です。例えば、高熱を発生するGPGPUの冷却において、一般的な局部水冷(液冷)方式や一般的な液浸冷却方式での温度維持は80~100℃という高い温度が限界ですが、新しい水浸冷却方式では、20~30℃という極めて低い温度で安定的に維持することが可能です。これにより、半導体に与える負荷を下げることができ故障率の低下にも繋がります。
ZYRQの水浸冷却方式と、一般的な液冷方式、液浸冷却方式との比較
3.圧倒的な省スペース化
この水浸冷却方式の特長として、一般的な空冷方式や液冷方式はもとよりZYRQが過去に開発した液浸冷却システムを大きく超える圧倒的な省スペース化を実現しています。
新たな水浸冷却システムでは、1つの水浸槽あたりの体積がわずか4,920㎥(設置面積で約6.6㎡)で66KWの冷却能力を持ち、スパコンチップ PEZY SC-3を3つを搭載した専用システムボードが24枚(72GPGPU)浸水可能な仕様となっています。(下記比較表は水浸冷却槽ハーフサイズでの数値)
例えば、大規模構成例で24槽(システムボード 567枚、GPGPU 1,728)を設置した場合でも保守スペースを含む設置面積はわずか約30㎡に過ぎず、一般的な空冷式(または水冷式)データセンターのような広いスペースを必要としません。
4.データセンター総コストの大幅な削減
当社が提案する水浸冷却システムでは、前述のとおり大胆な省電力化、省スペース化により、5年間での運用コストは従来のデータセンター比で50%以上の削減が可能となる画期的なデータセンターを実現できます。また、データセンターの建設には、広大な建設用地も必要が無く、安価で標準仕様のコンテナやユニットハウスを活用することで建屋建設費用を大幅に削減することも可能となります。さらに、データセンターの建設期間も大幅に短縮できるといったメリットがあります。
5.水浸冷却データセンターの展開
当社が開発した水浸冷却技術は、グリーンデータセンター化を強力に推し進めるためにあらゆるケースでの展開を想定して開発を進めています。コンテナ型データセンターに限らず、省スペース化のメリットを活かし都心のオフィスビルの空きスペースの活用したコンパクトなデータセンター構築や、老朽化した既存のデータセンターのグリーンデータセンター化、地方での新規データセンターの早期構築などのケースで非常に有効な技術となります。