AI内卷新方向：闪迪CTO称“拼内存”时代开启 HBF明年整装待发

5月29日消息，闪迪（Sandisk）首席技术官阿尔珀·伊尔克巴哈尔近日表示，随着AI大模型、KV缓存（键值缓存）以及专家混合模型（MoE）等技术的发展，全球AI竞赛正日益“以内存为中心”。客户争相签署长期采购协议的力度，前所未见。

阿尔珀指出，当前AI领域的多个趋势都在将内存推向前所未有的关键位置。

首先，大语言模型变得更大、更智能，运行它们需要显著增加内存容量。其次，像OpenAI的ChatGPT、谷歌的Gemini和Anthropic的Claude这类系统，正越来越依赖所谓的KV缓存。

KV缓存可以理解为AI的“短期记忆”，帮助模型记住用户之前的输入和对话内容。随着上下文窗口不断增长，KV缓存对内存容量的需求也在急剧扩大。

与此同时，正逐步成为行业主流的“专家混合模型”——在一个大模型内部集成多个小型专家模型，仅针对特定请求调用所需部分——虽然节省了算力，却也带来了更高的内存需求。

近期，闪迪宣布达成5份供应协议，协议期限最长可达5年，预计将带来至少420亿美元的收入。

阿尔珀补充说，过去存储芯片制造商主要依赖自身对需求的预测，很难判断扩大的产能最终能否被市场消化。而现在，客户会主动做出预先承诺，签署长期采购协议，以确保未来的供应。

针对近期引发资本市场关注的堆叠式闪存（HBF）技术，阿尔珀也给出了开发与上市时间表。

与存储三巨头（美光、三星、SK海力士）采用堆叠DRAM打造的HBM不同，基于NAND Flash的HBF有望提供更高的容量和更低的成本，同时在带宽表现上接近HBM，因而被视为AI推理场景中的潜在新型内存方案。目前，闪迪正与SK海力士合作，共同制定HBF技术标准。

阿尔珀表示：“我们相信下一个重大突破将是HBF，我们正在设计一款HBF存储晶片，预计今年年底提供样品，随后配备控制器的完整产品计划于明年推出。”