消息面上,英伟达CEO黄仁勋在CES展会上宣布,新一代Vera Rubin AI平台已全面投产。他表示,该平台通过六款新芯片的集成设计,在推理成本和训练效率上实现大幅跃升,将于2026年下半年交付首批客户。
此前每生成1个Token(一个词),GPU都要把整个过去的对话历史(即KVCache)从显存里读一遍。随着对话变长, KV Cache的体积会线性膨胀。这个"读一遍"的过程极其消耗带宽。我们希望Al可以记住跟它进行的每一次对话,现在的做法是把KV Cache放在HBM里(因为它够快),但HBM 又贵,容量又小,前一代的解决方案是利用NVLink-C2C把Grace CPU的大内存(LPDDR5X)当成GPU的扩展显存用,这个不够用了,第二个方法是数据溢出后,通过"南北向网络"去读取远端的存储服务器,这个问题是太慢了,网络带宽被挤爆,延迟无法接受。
英伟达解决方案为把存储搬到机架里,贴着GPU放并BlueField-4来管理,不再去远端的存储服务器读数据,BlueField-4在这里不仅是 DPU(数据处理器),它也变成了一个专用的KV Cache管理器,每颗GPU配置16TBNAND/每个机柜1152TBNAND。
机构指出,按照10万机柜计算,NAND需求115.2 EB,占25年全球NAND总供给的12%,对NAND的需求极大。
截至2026年1月7日 11:13,上证科创板半导体材料设备主题指数(950125)强势上涨7.94%,成分股芯源微(688037)上涨20.00%,安集科技(688019)上涨19.06%,和林微纳(688661)上涨18.56%,先锋精科(688605),富创精密(688409)等个股跟涨。科创半导体ETF鹏华(589020)上涨8.43%, 冲击3连涨。最新价报1.43元。
科创半导体ETF鹏华紧密跟踪上证科创板半导体材料设备主题指数,上证科创板半导体材料设备主题指数选取科创板内业务涉及半导体材料和半导体设备等领域的上市公司证券作为指数样本,以反映科创板半导体材料和设备上市公司证券的整体表现。
数据显示,截至2025年12月31日,上证科创板半导体材料设备主题指数(950125)前十大权重股分别为拓荆科技(688072)、华海清科(688120)、沪硅产业(688126)、中微公司(688012)、中科飞测(688361)、安集科技(688019)、芯源微(688037)、天岳先进(688234)、华峰测控(688200)、盛美上海(688082),前十大权重股合计占比74.05%。