三星将内存处理芯片安装到图形处理器上，用于首款超级计算机

三星制造了一台号称是同类的超级计算机，其中包含AMD数据中心GPU，并在内存芯片中进行处理，该公司表示，这可以显著提高训练大型人工智能模型的性能和能效。

这台超级计算机于周二在韩国的一次行业活动上公开，包括96个AMD Instinct MI100 GPU，每个GPU都装有一个内存处理（PIM）芯片，这是一种新的内存技术，可以减少在CPU和DRAM之间移动的数据量。

据报道，三星电子高级技术研究院人工智能研究中心负责人崔昌圭（Choi Chang-kyu）表示，与不使用PIM芯片的相同集群配置相比，该集群能够以2.5倍的速度训练由谷歌开发的文本到测试传输变压器（T5）语言模型，同时使用的功率减少2.7倍。

PIM驱动的超级计算机具有如此强大的性能的一个重要原因是每个PIM芯片都使用了高带宽内存(HBM)，业界越来越多地转向处理高性能计算和人工智能工作负载。英伟达和AMD已经在数据中心GPU中使用了几代HBM，英特尔计划在即将推出的Xeon Max服务器处理器变体和高端数据中心GPU中引入HBM。

三星HBM-PIM芯片与其他公司的HBM实现的不同之处在于，PIM芯片上的每个存储器内部都包含一个处理单元。根据这家韩国电子巨头的说法，通过将部分计算转移到内存内部，这减少了在CPU和内存之间移动数据的瓶颈。

三星希望通过开发允许组织在集成软件环境中使用该技术的软件，来促进其PIM芯片在业界的采用。为了做到这一点，它依赖于SYCL，这是一个免版税的、跨架构的编程抽象层，恰好是Intel实现c++的onapi并行编程模型的基础。

到目前为止，该公司已经对PIM进行了近三年的宣传，它计划将这项技术推向市场的另一种方式是通过所谓的AXDIMM(加速内存的缩写)。

如果PIM开始出现在研究实验室、学术机构和其他组织在未来几年建立的新型超级计算机中，我们就会知道三星最终是否会取得任何进展。®