【注目】 AI時代の発展を支える半導体製造技術
「HBM（High Bandwidth Memory）」とは

先端半導体の技術の中でも微細化と並んで今後の半導体性能を大きく左右する、3次元実装技術。その構成技術のであるHBM（High Bandwidth Memory）について解説します。

HBM（High Bandwidth Memory）とは

HBM（High Bandwidth Memory）とは非常に高い帯域幅（データ転送速度）を持ったDRAMです。

メモリとプロセッサを結んで信号を交換する入出力回路（IO:Input/Output）をバスと呼びます。

このバスを1秒間に通過するデータ信号の数を帯域幅（Band width）と呼び、この帯域幅の数値が大きいほどデータ処理が速いことを示しています。帯域幅は信号線1本の伝送速度×バスの本数で決まります。

例えばDDR（Double Data Rate）*¹ タイプのDRAMでDDR3の場合、伝送速度1,600Mbpsでバス本数が32本とすると帯域幅は6.4ギガバイト/秒（51,200Mbps）となります。

従来のDDRとの比較において、HBM第2世代の場合、伝送速度2Gbps でバス本数が1024本、帯域幅254ギガバイト/秒と高い伝送速度と非常に多くのバス本数を両立し、高帯域幅を実現しています。

HBMが高い伝送速度と多くのバス本数を実現できる理由としては、TSV（Through-Silicon Vias）を使用した高密度配線と垂直方向のメモリ積層にあります。

従来のワイヤーボンド接続と比較して高密度な配線が可能となるとともに、配線距離が短くなることにより、信号の伝播遅延が減少し、高い動作周波数を実現しています。

また、3次元構造を生かして、メモリダイの下にロジック層を配置接続することにより、メモリの操作制御および、データ転送の効率化が可能となっています。

HBMは単独のパッケージでは存在せず、ホストプロセッサと組み合わせたマルチチップパッケージの形状で製品となります。

HBM構造参考図
HBM＝DRAM ダイ+Logic ダイ with TSV(Through Silicon Via)

HBMの使用アプリケーション

HBM（High Bandwidth Memory）は、3D積層メモリ技術の一種で、従来の平面メモリよりもはるかに高い帯域幅を持っています。その特性から、HBMは以下のようなアプリケーションで使用されています。

グラフィックスカード

グラフィックスプロセッシングユニット（GPU）は、画像やビデオのレンダリング時に大量のデータを高速に処理する必要があります。HBMは、その高い帯域幅でGPUの性能ボトルネックを削減します。

高性能コンピューティング（HPC）

スーパーコンピュータや専門のデータセンターでは、複雑な計算やシミュレーションを高速に実行するためにHBMが採用されます。

ディープラーニングとAI

神経ネットワークの学習と推論は、大量のデータと高速な計算が必要です。HBMは、その高帯域幅でAIチップの性能を最大限に引き出します。

HBMがこれらのアプリケーションで使用される主な理由は、伝統的なDDRメモリに比べて高い帯域幅と低レイテンシを提供するためです。広いインターフェイス幅*² と、メモリセル*³ 間の短縮された信号経路により、HBMは非常に高速なデータアクセスを実現します。

また、エネルギー効率も向上しており、同じデータ転送量でより少ない電力を消費します。これらの利点により、HBMは性能要件が非常に高い上記のアプリケーションでの採用が増えています。

この中でも、近年は特に生成AI向けのGPUとシリコンインターポーザー上でパッケージされる形で、HBMの需要も一気に高まっています。

HBM　パッケージ　イメージ（上面より）

HBMの課題と展望

HBM（High Bandwidth Memory）は、高帯域幅とエネルギー効率のメリットを提供する革新的なメモリ技術ですが、現状の課題としては以下のようなものが挙げられます。

コスト

HBMは、TSV（Through-Silicon Vias）技術と微細な積層プロセスを使用しているため、製造が複雑でコストが高くなります。

今後製造プロセスの成熟とスケールの拡大により、コストが徐々に下がることが期待されます。コストが下がることにより、HBMが現在のAIやゲーミングのような高性能な先端アプリケーションだけでなく、 AI、VR、自動運転車などの新しい分野向けのアプリケーションにも拡大することが期待されています。

熱管理

HBMの多層積層構造は、熱の集中を引き起こし、冷却の課題をもたらすことがあります。新しい冷却技術や熱設計の最適化により、熱管理の課題を克服する方法が探求されています。

HBMは、特に高帯域幅とエネルギー効率が求められる先進的なアプリケーションで重要な役割を果たしています。コストと熱管理の課題は存在しますが、技術の進展と市場の成長によって、これらの問題が解決され、さらなる普及が進むと期待されています。HBMは今後も、高性能コンピューティングの分野で中心的な役割を果たし続けると予測されます。

用語集

*¹ DDR（Double Data Rate）

DDRとは、DRAMの1種で、「Double Data Rate」の略です。データを転送する際に、クロック信号の立ち上がりと立ち下がりの両方でデータを転送することで、効率的にデータ転送速度を倍増させることができます。

*² インターフェース幅

インターフェース幅とは、データ通信やメモリアクセスの際に一度に転送できるデータのビット数のことを指します。具体的には、メモリやデータバスの接続の幅を示す数字であり、この幅が広いほど一度の転送で扱えるデータの量が多くなります。

*³ メモリセル

メモリセルとは、データの最小の記憶単位として機能する電子部品のことを指します。