在AI大模型训练和推理的成本竞赛中,内存带宽与容量之间的鸿沟——即业界常说的“内存墙”——正成为制约算力效率的关键瓶颈。闪迪与SK海力士近期联合发布了HBF(高带宽闪存)标准规范,并在投资者会议上透露了详细路线图:首款产品已完成流片,计划2027年提供初始样品,2028年实现量产。这一科技前沿动态不仅关乎存储技术的代际跃迁,更可能重塑AI基础设施的构建逻辑。本文将从技术原理、市场定位、产业影响等多个维度,深度剖析HBF究竟能带来什么,以及它如何与现有的HBM、DRAM体系协同演进。
闪迪HBF:重新定义AI存储架构
当AI模型参数规模突破万亿级别,传统的HBM(高带宽内存)虽能提供极高的带宽,但其容量受限且成本高昂——HBM3的单颗容量通常只有16GB,而训练一个千亿参数模型动辄需要数百颗GPU,内存容量和功耗成为绕不开的痛点。闪迪的HBF正是在这一背景下诞生,它本质上是一种基于NAND闪存的高带宽存储方案,目标是提供接近HBM级别的读取带宽,同时容量达到HBM的8到16倍。
从命名看,“高带宽闪存”直接对标“高带宽内存”,但底层技术截然不同。HBM采用DRAM堆叠,而HBF利用了闪迪在3D NAND领域的深厚积累。闪迪内部数据显示,在运行AI大模型时,一套HBF系统仅需4块GPU就能实现HBM系统8块GPU同等的Token输出量。这意味着,如果HBF能够顺利量产,AI服务器可以在不牺牲推理性能的前提下,大幅减少GPU数量,从而降低采购、散热和供电成本。
值得注意的是,HBF并非简单的“把NAND堆得更快”,而是通过全新的接口协议和控制器架构,在闪存颗粒上实现了接近HBM的并行访问能力。第一版HBF规范最高支持512GB容量,提供8层或16层堆叠配置,带宽分为三个等级(Grade 1-3),从0.4TB/s到3.0TB/s不等。虽然这个带宽上限仍低于HBM3的6.4TB/s,但考虑到其容量优势,在AI推理场景中反而更具性价比。
技术解析:HBF如何实现8-16倍容量与HBM级带宽
要理解HBF的技术突破,需要先拆解AI存储系统的三层架构:计算层(GPU/CPU)、内存层(HBM/DRAM)和存储层(SSD/HDD)。传统上,HBM作为GPU的近存,带宽极高但容量有限;SSD虽然容量大,但延迟和带宽远达不到GPU直接访问的要求。HBF试图填补两者之间的空白——它既不是HBM的替代品,也不是SSD的升级版,而是介于两者之间的“新物种”。
闪迪在HBF中采用了多种创新技术。首先,它利用NAND闪存的多层堆叠能力,在相同物理空间内实现远超HBM的容量密度。HBM目前最多堆叠12层DRAM,而NAND的堆叠层数早已突破200层,因此HBF在容量上具备天然优势。其次,HBF引入了类似HBM的宽I/O接口,通过大幅增加数据通道数来提升带宽。据闪迪透露,HBF的读取带宽可以达到当前企业级SSD的数十倍,同时延迟控制在微秒级,虽然远高于HBM的纳秒级,但对于AI推理任务中常见的批量数据加载场景来说已经足够。
此外,HBF还针对AI工作负载进行了指令集优化。例如,它支持更大的数据块传输粒度和更高效的预取机制,使得GPU在从HBF读取模型权重时,能够减少等待时间。闪迪完成的首次流片验证了这些设计,预计2027年样品将向合作伙伴提供。值得注意的是,AI画图这类生成式应用对模型加载的延迟同样敏感,HBF的高带宽特性有望让本地部署的AI绘画工具更快加载大模型,从而提升用户体验。
成本与性能的平衡:HBF能否取代HBM?
这是业界最关心的问题。瑞穗证券的分析师指出,HBF不太可能完全取代HBM,但有望推动AI推理采用解耦式架构。所谓解耦,就是将训练和推理的硬件分开:训练阶段仍依赖HBM的高带宽、低延迟特性,而推理阶段则可以更多地使用HBF这类成本更低的存储方案。
从成本角度看,HBM的制造工艺复杂,需要与GPU封装在同一基板上,且良率较低,导致每GB成本远高于NAND闪存。HBF则可以直接通过标准接口(如PCIe或CXL)连接,不需要昂贵的硅中介层,因此其单位容量成本可以做到HBM的几分之一。对于部署大规模推理集群的企业来说,这种成本优势极具吸引力。
然而,HBF的延迟较高是其硬伤。HBM的延迟通常在几十纳秒,而HBF尽管比普通SSD快,但延迟仍在微秒级别,相差两个数量级。这意味着在需要频繁随机访问小数据块的场景(如实时推荐系统)中,HBF可能不如HBM。但如果是大模型的批量推理(如对话机器人、内容生成),数据访问模式往往是顺序或大块读取,HBF的延迟劣势可以被其高带宽和容量优势所弥补。
闪迪显然也意识到了这一点,因此将HBF定位为“HBM的补充而非替代”。在2028年量产之前,闪迪还需要解决NAND擦写寿命、功耗管理以及接口标准化等问题。AI工具导航上已收录不少致力于优化AI推理效率的工具,随着HBF的成熟,这类工具可能会进一步集成对HBF的支持。
2027-2028路线图:从流片到量产的挑战
闪迪在投资者会议上给出了明确的时间表:2027年提供初始样品,2028年实现量产。这意味着从流片到量产只有两年时间,节奏相当紧凑。流片成功只是第一步,后续还需要进行兼容性测试、系统级验证,以及联合GPU厂商(如NVIDIA、AMD)进行驱动优化。
当前的主要挑战包括: - 接口标准化:HBF需要与CXL(Compute Express Link)等互连协议深度整合,确保不同厂商的GPU和CPU可以无缝访问。 - 功耗与散热:高带宽意味着高功耗,HBF虽然比HBM省电,但相比传统SSD仍有较大幅度提升。企业级数据中心需要重新设计散热方案。 - 寿命管理:NAND闪存的写入耐久性有限,虽然AI推理以读取为主,但模型更新仍涉及写入操作。闪迪需要引入更高级的磨损均衡算法。 - 生态系统构建:谷歌、Meta和SK海力士等公司已在推动解耦式架构,闪迪需要与这些巨头合作,确保HBF能被主流AI框架(如PyTorch、TensorFlow)原生支持。
值得一提的是,文生图这类创意工具对模型更新的频率并不高,但模型参数量动辄数十亿,用户下载或加载模型时往往需要等待数秒。HBF若能在本地设备上提供接近内存的读取速度,将极大改善这类应用的启动体验。
对AI产业的影响:降低GPU需求,加速推理部署
HBF最直接的影响就是降低AI推理服务器的建设成本。目前,单块H100 GPU的售价高达数万美元,而HBF方案可以通过减少GPU数量来降低总拥有成本(TCO)。闪迪的数据显示,相同Token输出量下,HBF系统可节省一半的GPU,这意味着服务器采购成本降低30%-50%,同时功耗和散热成本也相应下降。
这对于AI推理的规模化部署至关重要。当前许多企业因为GPU成本过高而无法落地大模型应用,HBF的出现可能让“推理即服务”变得更加经济。例如,在智能客服、视频分析、自然语言处理等领域,企业可以部署带有HBF的推理服务器,以更低的成本实现毫秒级响应。
此外,HBF还有望推动边缘AI的发展。如果HBF的功耗和体积能进一步优化,未来的AI PC或工作站可能搭载HBF模块,实现本地运行大模型。AI诗词生成这类轻量级应用已经可以在手机上运行,但更复杂的模型仍需云端支持。HBF若进入消费级市场,最新科技产品将真正实现“端侧大模型”的普及。
当然,HBF的成功还需依赖整个生态的成熟。抠图和背景去除这类AI工具通常依赖中小模型,但未来随着模型不断变大,HBF也能为它们提供更高效的本地推理能力。
未来展望:HBF与解耦式架构的协同演进
闪迪并非孤军奋战。SK海力士作为HBM的主要供应商,同样参与了HBF标准的制定,这表明行业巨头正在积极寻求“内存-存储”融合的解决方案。解耦式架构(Disaggregated Architecture)是数据中心的重要趋势,它将计算、内存、存储资源池化,通过高速网络互联,实现灵活调度。HBF正好可以作为这个架构中的“近存储”层,为GPU提供高带宽、大容量的数据供给。
展望2028年之后,HBF可能会演进到第二代、第三代,带宽进一步提升,延迟进一步降低。瑞穗证券认为,HBF和HBM将长期共存:HBM负责训练和低延迟推理,HBF则负责高吞吐量推理和模型加载。这种分工将让AI基础设施的性价比达到新的平衡点。
对于普通用户来说,HBF的影响可能不会立竿见影,但三年后我们使用的AI应用——无论是AI网名生成器还是艺术签名设计工具——其背后的推理成本都将更低,响应速度更快。科技产品的迭代总是从底层技术开始,HBF正是这样一颗正在酝酿的“种子”。
总之,闪迪的HBF计划不仅是存储技术的进步,更是一次对AI计算范式的重新思考。当容量不再是瓶颈,带宽不再是天花板,我们或许能真正迎来一个“无墙”的AI时代。
常见问题解答
什么是HBF(高带宽闪存)?
HBF(High Bandwidth Flash)是闪迪与SK海力士联合提出的新型存储标准,它基于NAND闪存技术,通过宽I/O接口和堆叠设计,提供接近HBM的读取带宽,同时容量可达HBM的8-16倍,旨在解决AI大模型训练和推理中的“内存墙”瓶颈,属于存储领域的科技前沿突破。
HBF和HBM有什么区别?
HBM(高带宽内存)基于DRAM堆叠,延迟低(纳秒级),带宽极高,但容量有限且成本高昂;HBF基于NAND闪存,延迟较高(微秒级),但容量大、成本低,适合AI推理场景中大批量数据读取。两者互补:HBM用于训练和低延迟推理,HBF用于高吞吐量推理和模型加载。
HBF对AI行业有什么影响?
HBF有望降低AI推理服务器的GPU需求,使相同Token输出量下GPU数量减半,从而大幅降低AI基础设施的采购和运营成本。同时,它推动解耦式架构和边缘AI发展,加速大模型在云服务和本地设备中的落地,为AI应用的普及提供经济可行的存储方案。