好文集ChatGPT Plus¥119

内存是一堵墙,大家都要打破它,英伟达出手了。NVHBM改写 HBM 规则,三家内存厂何去何从?

文章目录

如果你持有 $NVDA、$MU,或者正在关注三星、海力士,这篇文章,我强烈建议你先收藏,再从头读完。

我是美研芒格君。

嵌入推文(联网查看)

之前写那篇“打破内存墙”的文章,我们陆陆续续花了 4 周、50 个小时,在硅谷走访了来自英伟达、美光、英特尔、SNDK 等公司的十余位工程师。想带给你的,是顺着技术变化,找到下一阶段值得研究的生意

嵌入推文(联网查看)

这篇,就是沿着那条线继续往下挖。英伟达拿出了 NVHBM,三星和海力士也在推进各自的新架构。过去讨论“怎么打破内存墙”,现在还要追问:墙打破之后,谁能把钱留下?

我把英伟达的公告和技术说明、三星与海力士的路线图、美光的财报放在一起核对,再用 10 张图,把控制器搬家、内存上下堆叠、散热、测试,一直拆到三家厂商的利润账本。

你不用先成为半导体专家。这篇想替你省下的,是在一堆缩写、新闻和财报之间来回拼图的时间。看完以后,你应该能自己分清:哪些变化只是参数更漂亮,哪些变化真的可能影响公司赚多少钱。

正文开始:

8 月 26 日,英伟达公布 NVHBM。名字里带着 HBM,最容易让人误会的地方是:英伟达要自己下场造内存了?

它这次公布的,是一套自己定义控制器与接口、推动多家内存厂商共同供货的方案。DRAM 的制造、堆叠和测试,仍然要靠供应链完成。

嵌入推文(联网查看)

开始深入对内存墙的定义,这是一个重要转变真正值得存储股东留意的,是客户$NVDA

看完这篇,你可以带走三件事:

  • 看懂 NVHBM 是一种什么样的技术? 到底搬了哪块电路,以及它和 zHBM 有什么不同。

  • 分清这件事情带来的 出货增长、市场份额和毛利润,避免把行业热闹当成每家公司都受益

  • 理解 散热、测试和良率,为什么可能成为下一轮客户愿意付钱的能力。

我的判断:HBM 的重要性没有下降,但利润会更取决于厂商实际承担了什么工作,以及能把它做得多好,会存在重新分配

01|先拆开 HBM:数据究竟怎么送到 GPU?

先记住两个指标。容量,是能放多少数据;带宽,是每秒能搬多少数据。 内存装得更大,并不等于每秒能送得更快。

GPU 负责计算。模型参数、计算过程中的临时数据,需要从内存送进去。数据送得不够快,计算电路就得等,这就是“内存墙”的一部分。

HBM 的办法,是把多层很薄的 DRAM 芯片叠起来,用密集的通路传数据。DRAM 就是计算时使用的工作内存。

从上往下拆,一摞 HBM 主要能看到:

  • DRAM 层:保存数据。

  • 底座芯片(base die):承接连接、测试和相应的逻辑功能。

  • 封装连接结构:把这一摞内存接到计算芯片。

文章配图

图 1|HBM 在 GPU 旁边。中介层位于两者下方,承担横向连接;它不是竖着夹在两块芯片之间的一堵墙。图中层数和间距仅为示意。

还差两块电路。内存控制器安排什么时候读写、怎样调度;PHY 接口电路负责真正收发电信号。

标准 HBM 系统中,计算芯片一侧有控制器和接口,内存一侧也需要相应接口。传输要求越高,接口的面积、功耗和信号质量就越需要精打细算。

计算芯片的面积很贵。分给内存管理和连接的面积增加,就会与计算、缓存等功能争夺空间。

于是工程师开始问:能不能把一部分功能,搬到 HBM 的底座里?

02|NVHBM:控制器搬家,设计分工也跟着变

英伟达的做法,是把自己设计的内存控制器放进 HBM 底座,并重新优化两边的连接方式。

这里搬的是电路功能。内存仍然可以放在计算芯片旁边

文章配图

图 2|标准 HBM 与 NVHBM 的简化对比。绿色区域突出控制器的位置变化;计算芯片仍需通信电路。此图不代表完整的 NVIDIA 电路布局。

对比标准 HBM4E,英伟达披露的方案指标包括:

  • 每摞内存带宽,最高增加 30%。

  • HBM 功耗,最高降低 15%。

  • 为主计算芯片释放更多可用于计算的面积。

NVIDIA 技术说明

美光在 2025 年 9 月的财报演示中也表达过预期:带定制底座的 HBM4E,毛利率有望高于标准产品。这是当时的产品预期,不是已经披露的 NVHBM 合同利润。美光 FY25 Q4

现在,平台提供共同方案,客户有机会少做一部分重复设计,供应商之间也更容易比较。

图纸趋同之后,谁能持续交出合格产品,谁才有继续谈价的底气。

“共同方案”不会让三家的制造能力瞬间一样。良率,也就是最终合格产品的比例,仍然可能差很多;功耗、可靠性、交付和成本也不会自动拉平。

所以我的判断是:独有设计带来的溢价可能承压,制造能力的重要性会上升。 这还不能推导出 HBM 立即变成低利润产品,更不能推导出定制设计收入全部消失。

03|行业多卖三成,一家公司也可能几乎没多赚

一家内存厂的 HBM 毛利润,可以先拆成一条简单的关系:

行业出货量 × 厂商份额 × 每摞毛利润。

这是理解竞争的入口。NVHBM 可能影响份额,也可能影响单位收益;

我们沿用一笔教学假设,数字不对应任何真实公司:

  • 行业从 5,000 万摞增至 6,500 万摞,增长 30%。

  • 每摞毛利润从 400 美元降至 360 美元,减少 10%。

  • A、B、C 的数量份额,从 55%/25%/20%变成 47%/30%/23%。

文章配图

这个数字有点复杂,但核心结论就一句:同一份行业增长,可能毛利润和份额会因为 NVHBM 的到来发生格局上的改变。可以落到很不一样的公司账本上。

现实里的最新参照,是 Counterpoint 9 月 1 日公布的二季度 HBM 收入份额:海力士 50%、三星 33%、美光 18%。数字四舍五入后相加为 101%。Counterpoint 份额

这里有两个不能跳过的区别:这是收入份额,不是摞数份额;这是二季度数据,早于 8 月 26 日 NVHBM 公布,不能拿它证明 NVHBM 已经造成份额变化。

对海力士,要看领先优势能否守住;对三星和美光,要看能否通过验证、拿到新增订单。追赶者有机会,不等于追赶者一定赢。

04|云厂商自己做芯片,英伟达仍可能有生意

公告里一个很有意思的细节是:首个 NVHBM 合作者,是亚马逊的 Annapurna Labs,也就是参与开发 Trainium 的团队。NVIDIA 公告

一家云公司自己设计计算芯片,并不意味着它要把内存、互连、服务器和机柜也全部重做一遍。

英伟达的 NVLink Fusion,就是让客户自研芯片接入其互连和机柜级系统的一套合作体系。NVHBM 又把合作范围延伸到了内存。

文章配图

图 4|自研计算芯片、内存与互连、机柜是不同层次的工作。客户可以选择合作,也可以自己做;图中为通用系统概念,不对应某款 Trainium 服务器。

亚马逊此前已宣布从 Trainium4 开始支持 NVLink Fusion。这与“Trainium4 已经批量采用 NVHBM”是两件事,不能混读

你品一下这个商业关系:客户即使自己设计计算芯片,周围的连接和系统能力,仍然可能来自英伟达。

对内存厂来说,客户也会有不同选择:

  • 采用平台共同方案:普通 HBM

  • 进行更深的独立定制:NVHBM,或者其他类似产品

05|再往前一步:内存从旁边,叠到计算芯片上方

NVHBM 调整的是控制器与接口分工。另一条更远的路线,直接改变内存和计算芯片的位置。

三星在 FMS 2026 展示的 zHBM,把内存从处理器旁边搬到上方。技术资料也把这一大类方向称为 Memory-on-Logic,直译就是“内存在上,逻辑芯片在下”。三星 zHBM

文章配图

图 5|并排布局的数据要经过横向连接;上下布局探索更短、更密的垂直通路。右图是架构方向,不是 NVHBM 的另一种写法,也不是已经确认量产的产品。

这个变化不只是“多叠几层”。传统 HBM 本来就有很多层内存;新方向进一步把内存与负责计算的逻辑芯片叠到一起。

距离缩短,有机会降低传输开销、提高连接密度。但是否真的更划算,还得把散热、供电、测试和报废一起算。

三星特别强调,自己同时具备内存、晶圆代工和先进封装能力。这让它有机会承接更多环节,却不保证每个环节都能赚钱。

06|混合铜键合:两块芯片怎样贴得更紧?

三星在这块儿有自己独到的知识积累。提到两项支撑技术:混合铜键合,以及把多个晶圆结合成整体的多晶圆键合。三星 zHBM

先看连接处。传统微凸点连接,要通过很小的焊料连接点把芯片接起来,层与层之间会留出相应的高度。

混合键合则让铜点对铜点、绝缘层对绝缘层精密对准并结合。两种材料一起完成结合,所以叫“混合”。NIST 混合键合

文章配图

图 6|连接界面的放大概念图。右侧铜点嵌在平整的绝缘层内,连接处不用传统焊球;并不意味着整颗封装的所有位置都不再需要焊料。

这听起来像“贴得紧一点”,实际很难。表面不够平、残留一粒污染物、位置对不准,都可能影响连接质量。

也正因为如此,能做出展示样品,和能每天稳定大量生产,是两道不同的门槛。

07|三星和海力士,都在推进这个方向

三星的 zHBM 是一个明确的上下集成方向。9 月 1 日 SEMICON Taiwan 前期论坛的相关报道,又补充了时间线。

按 TrendForce 汇总的报道,三星 HBM5 量产预期约在 2028 年;zHBM 的推出则被放在 2029 年以后。这些是路线图与报道口径,不能写成已兑现的交付承诺。三星路线图报道

SK 海力士在 4 月的台积电技术研讨会上,展示了标准 HBM、定制 HBM、HBF,以及 3D 堆叠 DRAM on Logic 等方向。

它希望从“供应商”走向参与架构设计的“创作者”。这里的 HBF 是高带宽闪存方向,之前我们也聊到过。海力士技术研讨会

文章配图

图 7|不同公司的节点与应用方向并列展示,不代表同一产品依次升级。HBM5 在不同厂商和研究机构的时间表里也可能不同。

按 Hot Chips 2026 的现场报道,海力士认为混合键合赶不上 HBM4E,最早要看 HBM5,并展示了 20 层的混合键合样品。Counterpoint 对大规模采用的估计在 2029—2030 年。Hot Chips 报道

08|NVHBM 改了规则,三家内存厂和台积电怎么赚钱?

英伟达对 NVHBM 的安排,有一句话特别值得存储股东留意:建立一套共同实现方案,由多家内存厂商供货,减少客户适配和验证不同供应商的工作。NVIDIA 公告

这意味着,客户有机会获得更多采购选择。我的判断是,三家内存厂仍然能靠制造、堆叠和交付赚钱,但独有设计能留下多少溢价、客户更容易换供应商之后还能赚多少,需要重新算。

三星:机会在于进入更多采购名单

假如过去客户已经围绕某家供应商做了大量适配,即使三星愿意供货,客户也未必愿意重新投入开发和验证。

NVHBM 的共同方案,有机会减少其中一部分重复工作。对希望争取更多订单的厂商,这是一个值得重视的入口。

但共同方案只能减少适配负担,不能替三星解决良率、功耗和可靠性问题。客户更容易比较供应商,也就更容易比较谁做得不够好

所以,对三星我会看:有没有通过具体客户的验证,拿到了多少采购份额,以及这些订单能不能在合格率和成本达标的情况下交出去

SK 海力士:要证明客户有得选,仍然愿意选自己

海力士是现有 HBM 市场的领先者。Counterpoint 的二季度收入份额仍将它列在第一位。Counterpoint 数据

NVHBM 对领先者提出的问题是:如果客户适配第二家、第三家供应商变得更容易,原有订单还能守住多少?

这不意味着海力士的经验失去价值。相同的方案,交给不同工厂,合格率、交付稳定性和成本仍然可能不同

如果海力士能让客户少遇到坏件、少耽误整机交付,即使客户拥有其他选择,也可能继续优先采购它的产品。

它要守住的,是“用了以后更省心、更划算”的优势,以及这种优势能支撑的价格。

美光:多拿订单的机会,要和每摞少赚的压力一起算

对美光来说,共同方案同样可能减少进入新客户体系的适配工作。但这件事有两面。

一面是,新客户采用 NVHBM 后,美光有机会争取更多订单;另一面是,多家供应商提供可比较的产品,客户谈价时也会更有底气。

所以,美光的受益逻辑要算的是:新增销量带来的毛利润,能否超过价格压力和扩产投入带来的成本

如果多卖了不少,但每摞赚得更少,还需要投入更多设备和研发,收入增长就未必能等比例变成股东回报。

台积电:关键是 NVHBM 的底座由谁制造

NVHBM 把英伟达设计的内存控制器放进 HBM 底座。这里必须分清:谁设计电路,和谁把电路制造出来,是两份工作。NVIDIA 技术说明

如果具体产品采用台积电的逻辑工艺制造底座,台积电就可能承接相应的晶圆代工业务。美光此前已披露标准和定制 HBM4E 底座与台积电合作,但这不能直接当作全部 NVHBM 订单的归属证明。美光 FY25 Q4

对台积电,要继续看具体产品采用什么工艺、底座面积多大、出货多少,以及最终承担哪些制造环节。

09|接下来,哪些信号会真正改变我的判断?

NVHBM 已经把方向摆出来了:英伟达进一步参与内存方案的定义,希望让客户更容易采用多家供应商的产品。

接下来,我会沿着这条线,追到实际订单和利润。

第一,多家供货,到底有没有落地?

我要看哪家内存厂通过了具体客户的验证,什么时候开始量产交付,以及客户有没有真的把订单分给第二家、第三家。

如果共同方案推出了,实际供货仍集中在少数厂商手里,就说明制造和验证的门槛依然很高。原有供应商的优势,也可能比预想中更牢。

第二,客户更容易换供应商之后,价格怎么谈?

如果厂商为了争取订单,需要给出更低的价格,就要看良率提升、成本下降和销量增长,能不能补回来。

同样是多卖一摞 HBM,留下多少毛利润,比“多卖了”本身更重要。

第三,NVHBM 有没有带来新的客户和需求?

我要看自研 AI 芯片的客户,是否因为接入更方便,真正采用了 NVHBM,并扩大部署。

这里要分清两种增长:一种是客户原本就要买这些内存,只是换了方案或供应商;另一种是新方案让更多项目能够落地,带来了额外采购。

前一种主要改变订单分配,后一种才可能扩大整体市场。两者对三家内存厂的意义不同。

第四,为了拿到这些订单,厂商先付出了多少?

开发、验证、设备和产能都要投入。订单增长得快,如果前期花钱更多、量产爬坡更慢,现金回报也可能晚于收入增长。

所以我会把新增毛利润和新增投入放在一起看。客户愿意采购,只是这门生意的开始;能否收回投入,才决定它值不值得做。

第五,可靠性优势,能不能变成客户愿意付的钱?

如果一家厂商能让客户少遇到故障、减少返工、按时完成整机交付,这种能力就有价值。

但价值最终以什么形式兑现,还要看合同:是更高的售价、更稳定的采购份额,还是更长的合作关系?供应商又承担了多少保修和赔偿责任?

内存是一堵墙,大家都要打破它,英伟达出手了

资料与延伸阅读

全文完
查看原文