不再是HBM，AI推理流行，HBF存储的机会来了？

KzWcx6mFqHAy

电子发烧友网报道（文/黄晶晶） SanDisk闪迪日前展示了其最新研发的高带宽闪存（HBF），这是一种专为 AI 领域设计的新型存储器架构。
       
       
        图源：闪迪官网

       
        在设计上，HBF结合了3D NAND闪存和高带宽存储器（HBM）的特性，能更好地满足AI推理的需求。
        HBF的堆叠设计类似于HBM，通过硅通孔（TSVs）将多个高性能闪存核心芯片堆叠，连接到可并行访问闪存子阵列的逻辑芯片上。也就是基于 SanDisk的 BICS 3D NAND 技术，采用CMOS直接键合到阵列（CBA）设计，将3D NAND存储阵列键合在I/O 芯片上。
        HBF 打破了传统的 NAND 设计，实现了独立访问的存储器子阵列，超越了传统的多平面方法，这种设计提高了存储器的并行访问能力，从而提升了带宽和吞吐量。
        HBF可匹配HBM的带宽，同时以相近的成本实现每个堆栈的容量比HBM高出8到16倍。HBF使用16个核心芯片，单堆栈容量可达512GB，8 个HBF 堆栈可实现 4TB的容量。
       
       
        图源：闪迪官网

        图源：闪迪官网
       
        下图显示出，8个HBF堆栈提供高达 4TB容量，可支持AI大模型运行在GPU硬件上，其高容量特性发挥得十分出色。

        据介绍，单颗 HBF可容纳完整的 64B 模型，有望应用于手机端大模型本地化，也适用于自动驾驶、AI玩具、IoT等边缘设备的低功耗、高容量的边缘AI存储需求。
       
       
        图源：闪迪官网
       
        不过，HBF主要具备高带宽和容量的特性，但由于NAND闪存的延迟较高，HBF在速度上不如DRAM。因此，‌该技术针对的是读取密集型 AI 推理任务，而不是延迟敏感型应用。
        闪迪将推动HBF的开放标准生态建设，例如建立相同的电气接口，以实现无缝集成，与行业伙伴共同合作，同时闪迪将持续创新推动闪存技术的进步。
        根据HBF技术路线图，其第二代产品容量将提升1.5倍，第三代产品提升2倍，第二代产品的读取性能带宽较第一代提升1.45倍，第三代提升2倍，同时能耗也将得到显著下降。
       
        图源：闪迪官网
       
        闪迪表示，AI加速云端和边缘端设备的增长，拉动AI基础设施、AI推理、边缘推理、智能终端等需求。例如2024年eSSD同比增长超过100%，对高性能和高容量eSSD的需求显著提升。我们看到智能手机、PC终端增长恢复，除此之外，还将产生大量的AI应用内容。这些都需要更好的存储产品加以满足所需。
        AI大模型的发展最先带旺高带宽内存HBM的需求，配合英伟达GPU用于AI训练。全球三大存储厂商SK海力士、三星电子、美光科技作为主流供应商，受益最多。显然，DeepSeek引爆AI推理应用之后，更多存储新技术架构和产品将有机会推出。闪迪的HBF以其高容量、高性能、低功耗的特性满足AI模型存储和推理需求，正是用于AI推理的新型存储产品当中具有代表性的存在。
        我们将继续跟进适用于AI推理的存储产品以及创新型企业和技术等，保持动态报道，也欢迎大家关注。