本报讯 专注于3D DRAM、3D NAND存储器厂NEO Semiconductor发表最新3D X-AI芯片技术,以取代目前用于AI GPU加速器的HBM。
据悉,这款芯片在DRAM内配置了AI处理功能,当大量数据在存储器与处理器间传输时,可减少数据汇流排(DataBus)问题,提升AI效能与效率。
3D X-AI芯片的底部有神经元电路层,可处理同一芯片上300个存储器层所储存的数据。NEO Semiconductor表示,由于8000个中子电路(neutroncircuits)可在存储器中进行AI处理,该3D存储器效能可提升100倍,存储器密度比当前的HBM高8倍,通过减少在GPU中处理的数据量,可降低99%的耗电量。
X-AI容量为128GB,每个芯片可支援10TB/s的AI处理能力。将12个裸晶(X-AI)堆叠在单一HBM封装中,可实现超过1.5TB储存容量和120TB/s处理吞吐量。
NEO Semiconductor创始人兼CEO许富菖指出,目前的AI芯片浪费大量电力,这主要是因为其架构和技术效率较低。
许富菖表示,将数据储存在HBM并用GPU负责执行所有运算,这是当前AI芯片架构的常见操作。但这种架构将数据储存与处理分离,使数据汇流排成为无法避免的能效瓶颈。这样的架构方式不仅降低了数据传输与运算的效率,当大量传输数据传输时,耗电量也非常高。
当半导体传输速度越来越快、效率越来越高时,在元件之间传输数据的汇流排将成为瓶颈。由此,目前许多公司正在研究提高处理速度和通信吞吐量的技术。而3D X-AI技术将可协助元件实现加速。
台积电、英特尔、铠侠等公司都在研究光学技术,以加快主机板内的通信速度,通过将部分AI处理从GPU转到HBM,NEO Semiconductor可提升处理器系统整体的运算与能耗效率,使其高于当前的AI加速器。(微 文)