深圳市明佳達電子有限会社へようこそ

最近、NEO Semiconductorは、3D DRAMにAI処理を実装することで、高帯域幅メモリ（HBM）の現行DRAMチップを置き換え、データバスの問題を解決するよう設計された3D X-AIチップ技術の開発を発表した。

通常、現在のAIチップ・アーキテクチャは、データを高帯域幅メモリに格納し、データバスを介してGPUに転送してAIアルゴリズム（数学計算）を実行する。 このアーキテクチャは非効率で、データ・バスは長い遅延と高い電力消費につながる。

一方、3D X-AIは、メモリセルを使ってニューラルネットワークのシナプスをシミュレートする。 同じチップ内でデータ保存とAI操作をサポートする。 メモリセルに保存されたデータは、数学的計算をすることなく、ニューラルネットワークの出力を生成するために直接使用され、その結果、AIの性能が大幅に向上し、エネルギーが大幅に節約される。

3D X-AIチップは、同一チップ内にAI処理能力を備えた3D DRAMで、下部にニューロン回路層、上部に300層の記憶装置を備え、容量は128GBである。この革新的なチップは、AIチップの性能を100倍向上させ、消費電力を99％削減できる。 この革新的なチップは、AIチップの性能を100倍向上させ、消費電力を99％削減することができます。8倍の高密度で、Chat GPT、Gemini、CoPilotなどの生成AIアプリケーション用の大規模言語モデル（LLM）を格納するのに理想的です。

NEO Semiconductorは、NEOの3D X-AI技術を搭載したAIチップにより、以下のことが可能になると説明している。 100倍の性能加速：3DメモリでA1処理を実行する8,000個のニューロン回路を搭載。 層のメモリを搭載し、より大きなAIモデルの保存を可能にする。 NEOは、各チップが最大10TB/秒のAI処理スループットをサポートできると見積もっている。 HBMパッケージに積層された12個の3D X- AIチップを使用すれば、100倍の性能向上で120TB/秒の処理スループットを達成できる。

ここでの3D DRAMもまた、NEO Semiconductorの研究開発の方向性の1つである。 記憶ユニットを水平に配置した従来のDRAMとは異なり、記憶ユニットを垂直に積層した3D DRAMは、単位面積当たりの記憶容量を大幅に増加させ、効率を向上させるため、次世代DRAMの重要な開発方向となっている。

DRAM（Dynamic Random Access Memory）はプロセッサをサポートするために使用され、電子機器におけるDRAMの使用はより一般的になっているとNEOは述べている。 しかし、プロセッサの速度は複数世代のメモリよりも速く成長しており、年々拡大する「パフォーマンス・ギャップ」を生み出している。 クラウドデータセンターのような消費電力に敏感な環境では、性能要件を満たすために、より高出力のプロセッサに依存する傾向が強まっているが、その結果、メモリに使用できる電力量が減少している。

X-DRAMアーキテクチャを採用することで、消費電力の削減、レイテンシの低減、スループットの向上が可能になり、従来のDRAMが直面していたこれらの課題およびその他の課題を克服することができます。 これにより、商用システム（サーバーなど）の高性能化、モバイル機器（スマートフォンなど）のバッテリー寿命の延長、エッジコンピューティング機器（ルーターなど）の高機能化、IoTオブジェクト（ゲートウェイなど）の新たな展開オプションが実現します。

3D X-DRAMのセルアレイ構造は、FBC（キャパシタレス・フローティング・セル）技術を用いた3D NANDフラッシュに似ており、マスクのレイヤーを追加することで垂直構造を形成できるため、高い歩留まり、低コスト、大幅な密度向上を実現します。NEOによると、3D X-DRAM技術は230レイヤーで128GビットDRAMチップを製造でき、これは現在の8倍に相当します。DRAM密度は現在の8倍である。 近年、SKハイニックス、サムスン電子、マイクロンなどのメモリーメーカーは、AIの波における高性能・大容量メモリーの需要に応えるため、3D DRAM技術の開発を進めている。