探索节能AI芯片的细节

针对 MAC 操作的建议 IMC 宏概述。a FeFET的材料堆。b 多位FeFET可以编程为不同的状态，以存储突触的重量。c 以前的工作只考虑二进制 AND 或 XNOR 运算来计算一位乘法运算。d 显示了我们提议的带有输入编码和 2 位存储的 2 位乘法运算。相应的输出在不同的时间实例激活。e 编码器根据输入值提供栅极电压，该输入值在不同时间实例在三个电平之间变化。f 单元格中输入和存储状态的乘法输出取决于使用解码器累积和采样一个单元格被激活的时间。g 显示了 I − V 曲线的四种状态的 V 分布。h 根据激活时间和给定时间激活的电池数量，连接到电池列的电容器两端的电压累积，该电压与MAC输出线性对应，并且对底层器件变化的影响最小。i IMC 加速器有助于 AI 工作负载的 MAC 操作，在这些工作负载中可以利用我们提出的设计。j 相应的MAC操作在横杆中执行，在电容电压中累积输出。

Hussam Amrouch开发了一种适合人工智能的架构，其功能是同类内存计算方法的两倍。据《自然通讯》杂志报道，慕尼黑工业大学(TUM)的教授采用了一种新的计算范式，使用被称为铁电场效应晶体管(fefet)的特殊电路。在几年内，这可能会被证明对生成式人工智能、深度学习算法和机器人应用很有用。

其基本思想很简单:不像以前的芯片只在晶体管上进行计算，现在它们还可以存储数据。这样可以节省时间和精力。“因此，芯片的性能也得到了提升，”慕尼黑工业大学(TUM)人工智能处理器设计教授Hussam Amrouch说。他用来进行计算和存储数据的晶体管只有28纳米，每个新的人工智能芯片上安装了数百万个晶体管。

未来的芯片必须比以前的更快、更高效。因此，它们不能迅速升温。如果它们要支持诸如无人机飞行时的实时计算等应用，这是必不可少的。“像这样的任务对计算机来说是极其复杂和耗能的，”教授解释说。

现代芯片:步骤多，能耗低

对芯片的这些关键要求可以用数学上的参数TOPS/W来概括:“每秒每瓦特的次操作数”。这可以被看作是未来芯片的货币。问题是，当提供1瓦(W)的功率时，处理器每秒可以执行多少万亿次操作(TOP)。

这款新的人工智能芯片由博世和Fraunhofer IMPS合作开发，由美国公司GlobalFoundries在生产过程中提供支持，可提供885 TOPS/W。这使得它的功能是同类人工智能芯片(包括三星的MRAM芯片)的两倍。现在常用的CMOS芯片工作在10-20 TOPS/W的范围内。

内存计算的工作原理与人脑相似

研究人员从人类那里借鉴了现代芯片架构的原理。“在大脑中，神经元处理信号的处理，而突触能够记住这些信息，”Amrouch说，描述了人们如何能够学习和回忆复杂的相互关系。为了做到这一点，芯片使用了“铁电”(FeFET)晶体管。

这些电子开关具有特殊的附加特性(施加电压时两极反转)，即使在切断电源时也能存储信息。此外，它们保证了晶体管内数据的同时存储和处理。

Amrouch说:“现在我们可以构建高效的芯片组，用于深度学习、生成式人工智能或机器人等应用，例如，数据必须在生成的地方进行处理。”

面向市场的芯片需要跨学科的合作

目标是使用该芯片运行深度学习算法，识别空间中的物体或处理飞行中的无人机数据，而不存在时间滞后。然而，这位来自慕尼黑工业大学机器人与机器智能综合研究所(MIRMI)的教授认为，要实现这一目标还需要几年的时间。

他认为，最早也需要三到五年的时间，第一批适用于实际应用的内存芯片才会问世。其中一个原因是行业的安全需求。例如，在这类技术应用于汽车工业之前，仅能可靠地运行是不够的。它还必须符合该行业的具体标准。

“这再次凸显了与来自计算机科学、信息学和电子工程等不同学科的研究人员进行跨学科合作的重要性，”硬件专家Amrouch表示。他认为这是MIRMI的一个特殊优势。