生成AI（GenAI）のアプリケーションには、高転送レート、低遅延の高速メモリが必要になります。大量のデータをリアルタイム処理するからです。データに素早くアクセスすることは、意思決定や予測を利ありタイムにこなさなくてはならない推論においては決定的に重要になっています。
必要な機能：
- DRAMの従来のインターフェースでは転送レート・遅延時間ともに壁があります。そこでDRAMをTSV（Through Silicon Via; シリコン基板の貫通穴を用いて積層したチップ間を接続する技術）を用いて3次元積層したHBM（High Bandwidth Memory; 極めて転送レートの高いメモリ）のような技術が、性能を満たすために重要になってきます。メモリ設計における課題と解決方法、それにメモリ技術の最新動向が、ハイパフォーマンスコンピューティングの将来やそこでの競合状況を左右するようになっています。
- 今後は3D-IC（複数チップを3次元にTSVによって積層する技術）やCoWoS（インターポーザ―という基盤上にチップを並べる技術。異種チップも格納できる）などの最新パッケージング技術が、スマートフォンやPCなどいろいろな産業セクターで採用されていきます。大きさとコストの制約が大きいスマートフォンでは、低遅延と低消費電力とを、コストや実装面積を増やさずに実現するために、いろいろな手法が開発されることになるでしょう。
- 2030年にどんな生成AIモデルやアプリケーションが何種類くらい普及しているか、いまだ予測がつきません。従って、どんな変化があっても対応できるよう、アーキテクチャの進歩を支え、エコシステムを作って備えておくことが極めて大事になります。
「生成AIのためのメモリ」は一連のレポートのシリーズで、以下の内容をカバーします。
- 機能の変化
- 競合の変化
- 中国製のメモリ
- モバイルでの生成AI
下記のリンクからフォームにご記入の上、ご提出いただければ、レポートをダウンロードいただけます。