【CNMO科技音书】5月11日，据韩媒报说念，内存半导体行业在HBM4量产前夜，已细腻运转下一代工夫HBM-PNM的推敲。该工夫旨在艰涩以GPU为中心的架构截至，通过在内存中奏凯进行计较，推进以计较内存为中枢的架构转型。

存储芯片

近日，三星电子、NVIDIA、加州大学圣地亚哥分校、哥伦比亚大学以及延世大学的推敲团队发表论文，建议了多芯片粒内存中心架构工夫，展示了HBM-PNM工夫的终了旅途。PNM工夫通过在HBM堆叠的逻辑层中设立专用计较单位，终了内存隔邻的数据奏凯措置。相较于在内存单位内镶嵌电路的PIM工夫，PNM简略在保合手内存容量的同期，撑合手更为复杂且纷乱的计较任务。

现在，大型话语模子在措置长文脉解码时，GPU的计较智商讹诈率往往不及5%，轮盘游戏app(中国)官方下载大部分资源用于内存带宽撑合手，变成了资源浮滥与高能耗。推敲表示，NVIDIA的Rubin GPU在措置长文脉任务时，其计较芯片的资源占用率极低。

跟着HBM4引入5纳米及以下先进制程的逻辑层，PNM的终了门槛权贵缩小。推敲团队建议的架构决策剔除了传统GPU的计较芯片，通过将16个HBM-PNM单位领略，使封装内内存带宽普及至每秒44TB，达到现存水平的2倍。

图源收罗

测试效力表示，该架构在措置100万级长文脉推理任务时，其扎认识机制的蔓延较NVIDIA H100缩小了15.5倍，能耗缩小了6.9倍。与Rubin GPU比较，该架构在速率与能效方面也发达出权贵上风。推敲团队以为，此项推敲考据了内存中心架构看成新式计较系统的后劲轮盘游戏App(中国)官方下载，未来有望在异构平台中阐扬中枢作用。