NEO发布HBM3DX-AI:AI性能提升100倍

NEO Semiconductor 发布 3D X-AI 芯片技术,声称可实现目前 HBM 内存方案百倍的 AI 处理能力,同时功耗降低 99%。这一技术融合了 3D DRAM 技术和本地处理器,旨在提升 AI 芯片的性能和降低功耗。

NEO Semiconductor 的 3D X-AI 芯片采用了 3D DRAM 技术构建 HBM 内存的 DRAM Die,实现更高的容量。单个 3D X-AI 芯片包含了 300 层 3D DRAM 单元,总容量可达 128Gb。当这些单元堆叠到 12 层时,单堆栈容量可达到 192GB,相当于传统 HBM3 (E) 内存最大单堆栈容量的 5.76 倍。

此外,3D X-AI 芯片还内置了一层神经回路单元,包含 8000 个神经元电路,可以直接在 3D 内存内部执行 AI 处理,进一步降低功耗。据 NEO Semiconductor 预测,每层神经回路单元的 AI 处理吞吐量为 10TB/s,12 层堆叠后的 3D X-AI 内存堆栈将达到 120TB/s,相较于传统方案提高了 100 倍。

NEO Semiconductor 创始人兼首席执行官 Andy Hsu 认为,当前的 AI 芯片存在架构和技术效率低下的问题,导致大量性能和功率被浪费。传统的 AI 芯片架构将数据存储在 HBM 中,并通过 GPU 执行计算。这种数据存储和数据处理分离的架构使得数据总线成为不可避免的技术瓶颈,进而影响性能和功耗。3D X-AI 则能在每个 HBM 芯片中执行 AI 处理,有效减少 HBM 和 GPU 之间的数据传输,从而提高性能并显著降低功耗。

总之,NEO Semiconductor 发布的 3D X-AI 芯片技术有望在未来 AI 领域带来革命性的变革。通过融合 3D DRAM 技术和本地处理器,该技术实现了更高的容量和更低的功耗,为 AI 行业带来了更高效、绿色的解决方案。

发表回复