AI向け高速フラッシュメモリ

技術詳細

AIサーバーの性能は、GPUの計算能力だけで決まりません。GPUへ必要なデータをどれだけ速く供給できるかも、処理性能を左右します。

HBMはGPUの近くに配置される非常に高速なメモリですが、高価であり、搭載できる容量にも制約があります。DRAMも高速ですが、大容量化するとシステム全体の費用や消費電力が増加します。

一方、NAND型フラッシュメモリはHBMやDRAMより低速ですが、大容量化しやすく、データ当たりの価格を抑えやすいという特徴があります。

AI向け高速フラッシュメモリ技術は、フラッシュメモリの低遅延化、インターフェースの高速化、データの事前読み出し、GPUからの直接アクセスなどを組み合わせ、HBMやDRAMと従来型SSDの間を埋めることを目指す技術です。

分かりやすく例えると、GPUは高速で作業する職人、HBMは職人のすぐ横にある作業台、従来型SSDは大量の材料を保管する倉庫です。

高速フラッシュメモリは、倉庫よりも職人の近くに大量の材料を置き、必要なデータを素早く渡す中間保管場所の役割を目指します。

キオクシアが開発するXL1シリーズは、CXLインターフェースを利用してフラッシュメモリをメモリ拡張用途に活用するものです。

GP1シリーズは、GPUから高速フラッシュメモリへの直接アクセスを想定し、AI処理に必要な大規模データセットを効率的に扱うことを目指しています。

この技術が普及すれば、AIサーバーのメモリ容量不足を緩和し、高価なHBMやDRAMの使用量を最適化できる可能性があります。

ただし、フラッシュメモリがHBMを完全に置き換える技術ではありません。速度や耐久性などの違いに応じて、複数種類のメモリを使い分ける階層型構成が基本となります。

今後の注目点は、実際のAIサーバーにおける性能、HBMやDRAMを増設した場合との費用差、消費電力、耐久性、対応するGPUやソフトウェア、採用企業、量産規模です。