闪迪CTO：全球AI竞赛取决于存储器而非算力，预计明年推出HBF产品

格隆汇5月28日｜据日经亚洲，闪迪首席技术官(CTO)兼执行副总裁Alper Ilkbahar在接受访问时称，全球AI竞赛越来越以存储器而非算力为中心，这一趋势或加剧全球史无前例的存储器芯片供应紧张局面。他表示，单靠图形处理器(GPU)、中央处理器(CPU)及原始运算能力，不足以应付日益复杂的AI工作负载。

Ilkbahar表示，有几个趋势正在令存储器变得更为关键。首先，随着大型语言模型变得更大、更智能，它们需要更多存储器才能有效运作。其次，ChatGPT、Gemini及Claude等系统越来越依赖所谓的KV(key-value)快取。简单而言，KV快取就像AI的短期记忆，让它能够记住之前的用户输入及对话早期部分，而不必从头开始重复计算每项内容。另外是混合专家模型，减少运算但增加存储器。

他相信下一件大事将是高频宽快闪存储器(HBF)，目前正在设计芯片，HBF存储器晶粒将于今年底提供样品，配备控制器的完整产品预计明年推出。HBF能提供远高于高频宽存储器(HBM)的容量与存储器密度，同时保持相近的频宽，更适合未来的AI推论需求。闪迪已与SK海力士合作，共同制定HBF技术标准。