IBM 开发新型 64 核混合信号内存计算芯片

IBM HERMES Project Chip的渲染图

几十年来，电子工程师一直在努力开发越来越先进的设备，这些设备可以更快地执行复杂的计算并消耗更少的能源。在人工智能（AI）和深度学习算法出现后，这一点变得更加突出，这些算法通常在数据存储和计算负载方面都有实质性的要求。

运行这些算法的一种有前途的方法称为模拟内存计算（AIMC）。顾名思义，这种方法包括开发可以在单个芯片上执行计算和存储数据的电子设备。为了切实实现速度和能耗的改善，这种方法理想情况下还应该支持片上数字操作和通信。

IBM欧洲研究院的研究人员最近开发了一种基于相变存储设备的新型64核混合信号内存计算芯片，可以更好地支持深度神经网络的计算。他们的64核芯片发表在Nature Electronics的一篇论文中，迄今为止已经取得了非常有希望的结果，保留了深度学习算法的准确性，同时减少了计算时间和能耗。

“我们一直在研究如何使用相变存储器（PCM）设备进行计算超过7年，从我们第一次展示如何使用单个PCM设备实现神经元功能开始，”该论文的作者之一Manuel Le Gallo告诉Tech Xplore。

“从那时起，我们表明，许多应用程序都可以从使用PCM设备作为计算元素中受益，例如科学计算和深度神经网络推理，我们证明了使用原型PCM芯片的硬件/软件实现几乎没有准确性损失。有了这个新芯片，我们希望向端到端模拟AI推理加速器芯片迈出一步。

为了创建新的内存计算芯片，Le Gallo和他的同事将基于PCM的内核与数字计算处理器相结合，通过片上数字通信网络连接所有内核和数字处理单元。他们的芯片由64个基于模拟PCM的内核组成，每个内核包含一个256×256的突触单元横杆阵列。

“我们在每个内核中集成了紧凑的、基于时间的模数转换器，以便在模拟和数字世界之间转换，”Le Gallo 解释道。“每个内核还集成了轻量级数字处理单元，可执行整流线性单元（reLU）神经元激活功能和缩放操作。全局数字处理单元集成在芯片中间，可实现长短期存储器（LSTM）网络操作。

该团队芯片的一个独特特征是，其中包含的内存内核及其全局处理单元通过数字通信网络连接。这使其能够执行与片上神经网络的各个层相关的所有计算，从而显著减少计算时间和功耗。

为了评估他们的芯片，Le Gallo和他的同事进行了一项非常全面的研究，在他们的芯片上运行深度学习算法并测试其性能。他们的评估结果非常有希望，因为在芯片上运行并在CIFAR-10图像数据集上进行测试时，训练完成图像识别任务的深度神经网络达到了92.81%的显着准确率。

“我们相信这是目前报道的任何使用类似技术的芯片的最高精度水平，”Le Gallo说。“在论文中，我们还展示了如何将模拟内存计算与多个数字处理单元和数字通信结构无缝结合。8 位输入输出矩阵乘法 400 GOPS/mm 的单位面积测量吞吐量²该芯片比以前基于电阻存储器的多核内存计算芯片高出15倍以上，同时实现了相当的能效。

IBM欧洲研究院最近的工作是朝着开发AIMC芯片迈出的又一步，该芯片可以支持深度学习算法的需求和需求。未来，Le Gallo和他的同事推出的设计可以进一步更新，以实现更好的性能。

Le Gallo 补充说：“利用我们从该芯片和 34 年在 VLSI 上展示的另一款 2021 块芯片中学到的知识，我们设计了一种端到端模拟 AI 推理加速器架构，该架构已于今年早些时候发表在 IEEE VLSI 系统交易中。“我们的愿景是将许多模拟内存计算模块与与大规模并行2D网格连接的特殊用途数字计算内核相结合。结合我们近年来开发的复杂的硬件感知训练，我们预计这些加速器将在未来几年内为各种模型提供软件等效的神经网络精度。