AI硬件核心是算力和存力，HBM高带宽、低功耗优势显著，是算力性能发挥的关键
AI芯片需要处理大量并行数据，要求高算力和大带宽，算力越强、每秒处理数据的速度越快，而带宽越大、每秒可访问的数据越多，算力强弱主要由AI芯片决定，带宽由存储器决定，存力是限制AI芯片性能的瓶颈之一。AI芯片需要高带宽、低能耗，同时在不占用面积的情况下可以扩展容量的存储器。HBM是GDDR的一种，定位在处理器片上缓存和传统DRAM之间，兼顾带宽和容量，较其他存储器有高带宽、低功耗、面积小的三大特点，契合AI芯片需求。HBM不断迭代，从HBM1目前最新到HBM3E，迭代方向是提高容量和带宽，容量可以通过堆叠层数或增加单层容量获得提升，带宽提升主要是通过提升I/O速度。
HBM市场爆发式增长，海力士和三星垄断市场
目前主流AI训练芯片均使用HBM，一颗GPU配多颗HBM，如英伟达1颗H100使用5颗HBM3、容量80GB，23年底发布的H200使用6颗HBM3E（全球首颗使用HBM3E的GPU）、容量达144GB，目前HBM供不应求，三大原厂已开启军备竞赛，三大原厂一方面扩产满足市场需求、抢占份额，海力士和三星24年HBM产能均提升2倍+，另外三大原厂加速推进下一代产品HBM3E量产以获先发优势，。
先进封装大放异彩，设备和材料新增量
HBM采用3D堆叠结构，多片HBM DRAM Die堆叠在Logic Die上，Die之间通过TSV和凸点互连，先进封装技术TSV、凸点制造、堆叠键合是HBM制备的关键，存储原厂采用不同的堆叠键合方式，海力士采用MR-MUF工艺，三星和美光采用TCB工艺，MR-MUF工艺较TCB工艺效率更高、散热效果更好。HBM对先进封装材料的需求带动主要体现在TSV、凸点制造和堆叠键合/底填工艺上，带来对环氧塑封料、硅微粉、电镀液和前驱体用量等的提升，在设备端HBM带来热压键合机、大规模回流焊机和混合键合机等需求。