GB200架构下AI服务器和PCB市场演变

发布于: 雪球转发:0回复:2喜欢:0

Q:GB200架构下AI服务器和PCB市场演变中,

代工要求有哪些提高?

A:GB200架构下,代工要求显著提高。首先,

代工厂商需要具备英伟达训练卡和推理卡的训练

组装经验。目前,越南的代工主要集中在广达

鸿海两家,因为他们有组装训练卡和推理卡的经

验。GB200的组装要求代工厂商能够处理2个

B200、一个C和一个国际CPU组装在一个主板

上,即所谓的computer tree。这种变化意味着

只有真正具有白卡组装能力的供应商才能被选

中,目前只有广达和鸿海具备这种能力。因此,

代工的经验、产线以及良率都有较高要求。

Q:鸿海在GB200代工中的份额和盈利角度如

何?

A:鸿海在GB200代工中的份额相当大,占到

40%到50%。鸿海的份额基本在60%到60%之

间,占据较大份额。从代工的规模和机型来看,

鸿海主要以NVL72机型为主,而广达则以NVL36机型为主。因此,从板卡的绝对数来看,鸿海高

广达

Q:鸿海和广达在GB200代工中的接单模式有何

不同?

A:短期内,即2024年,GB200的组装和部件分

配模式、采购模式以及IP都属于英伟达。鸿海和

广达在代工GB200时,大部分部件如GPU、

CPU、网络散热模组等都由英伟达购买后分配给

他们。但从2024年下半年开始,部分终端用户,

特别是互联网客户,开始研发基于自己系统的定

制化GB200,尤其是针对NVL72的定制化

GB200。这时,GB200的IP归属于各个云厂商,

鸿海和广达的采购模式会发生变化,他们需要自

己付费购买相应部件,但核心部件的价格仍由英

伟达控制。

Q:GB200的主要客户群体是谁?他们对GB200

的使用和定制化有何计划?

A:GB200的主要客户群体是云厂商。目前,云

厂商使用的GB200主要是英伟达的固定配置。但从2024年下半年开始,云厂商开始进行定制化

GB200的开发,以适应不同的业务场景。定制化

GB200的生产预计从2025年第一季度末开始批量

进行。随着定制化的进行,供应链也会发生变

化,云厂商可能会改变供应商,不再完全依赖英

伟达现有的供应链。这意味着供应链将由云厂商

主导,通过他们的认可进行部件采购。

Q:代工厂在组装G200架构产品时的毛利率和净

利率有何变化?

A:代工厂在组装G200架构产品时,毛利率和净

利率确实存在变化。毛利率的变化并非由于某个

方面赚取的更多或更少,而是因为代工费用基本

一致。例如,英伟达的GP200产品,代工一台

MM772的成本约为40万美金,这包含了人力成

本和物料采购成本,如电子元器件和机壳等。代

工厂组装完成后,英伟达支付给代工厂的费用大

约为4万美金,毛利率接近30%,净利率约为

25%,盈利维持在12万美金左右。如果代工厂为

云厂商代工ML72,采购价格可能在260到280万美金,毛利率会降至5%左右,但盈利金额仍然维纪要、交流V:ljx688688rhr

持在12万美金左右。因此,虽然毛利率有所变

化,但盈利金额并没有太大变化。

Q:戴尔IPE等品牌厂商在AI服务器市场上的定位

和需求是什么?

A:戴尔IPE等品牌厂商主要面向企业市场,与云

服务大市场有所不同。他们的需求相对靠后,采

购量较小,尤其是在AF以上产品,不如云厂商。

他们更多依赖于英伟达的授权。英伟达GB200架

构的出现对市场有较大影响,云厂商开始研发基

于GB200的整机服务器。戴尔惠普等品牌厂商

可能通过两种方式与英伟达合作:一是英伟达提

供较低成本的GB200,二是授权他们开发GB200

主板,实现产品差异化,避免价格战。

Q:戴尔的业绩表现如何,其毛利和净利会受到

哪些影响?

A:戴尔的250系列业绩表现不错,FD收入达到

17亿美元,但营业利润相对持平。戴尔追求低毛

利策略,产品线不如美超威全面,主要依靠价格优势获取订单。虽然借助AI服务器风口提升了销

售额,但与美超微等有差距。戴尔的营收额提升

有限,因为要依赖低价抢占市场。预计戴尔的销

售模式不会有大变化,仍会维持低毛利水平。

Q:GB200架构对AI服务器和PCB市场的影响有

哪些?

A:GB200架构与传统AI服务器不同,将GPU直

接组装到CPU主板上,取消了OM板。这导致

PCB市场发生变化,主要供应商为联能、新兴电

子等,追求高阶HDI板。底层CPU主板供应商包

括沪电等,份额相对较小。材料方面的变化尚不

明确。总的来说,GB200架构的出现将推动AI服

务器和PCB市场的演变。

Q:GB200架构下AI服务器和PCB市场演变中,

同保等级有何变化?未来是否会使用马8?

A:目前互通版PCD版主要使用的是马6,因为马

8尚未推出。当前PCB层数在16到18层。预计明

年随着设备功率增加,下一代GB200的PCB层数

将增加到20层,并可能采用马8。今年使用的网络接口主要是800G,明年将切换到1.6T,对PCB

的互联互通要求和功耗性能要求将更高。

Q:马8与马6的单价有何变化?

A:GB200中使用的马6单价大约是2000美金一

块。马8的价格尚未确定,但预计会比马6提升

40%到50%,大约在3000美金左右。

Q:服务器中一个板子的成本如何计算?

A:一个板子的成本大约是1000美金,如果一个

服务器需要36个板子,则总成本约为36000美

金。

Q:云厂商定制GB200是否还有传统的八卡服务

器需求?

A:是的,TB200是基于B200卡TB200信用卡的

一种组装形式,并不意味着明年就全部都基于

200了,传统的八卡服务器仍然有需求。

Q:明年GB200的市场份额预计会占到多少?

A:明年GB200的市场份额预计能占到50%左

右,与八卡AI服务器各占一半。

Q:英伟达明年的芯片出货量预计是多少?A:英伟达预计明年B200的卡会出现近350万

张,B100的话差不多能有将近50万张。但这个数

据可能会在今年8、9月份进行调整。

Q:B100和B200之间的区别是什么?

A:B100和B200的区别主要有三点:HDM大

小、互联带宽以及推理性能。B200的HDM比

B100大,互联带宽有所提升,但最主要的区别在

于B200的推理性能比B100提升了将近四倍。

Q:B100、B200、NVL32和NVL72的出货节奏

如何?

A:今年GB200的出货节奏预计在九月底到十月

份开始,NVL36和NVL72各占1500套,总共

3000套。明年GB200预计出货量将近4万套,主

要是ML36,占到将近3万套,供给非互联网客

户,还有1万套是ML72。

Q:B200的服务器是否会在今年下半年推出?

A:是的,B200将在九月份推出。GB200的推出

需要有B200的卡,没有B200,GB200也无法申

请。B200的组装复杂度比发卡要高,但出货节奏上没有差别,预计晚一个月左右。目前GB200的

供应链已经准备好,代工厂在组装GB200时没有

太多技术问题需要解决。

Q:下一代服务器中PCB的升级方向是什么?

A:对于下一代服务器,特别是通用AI服务器,

预计会使用GB200主板的规格,即18层的这种架

构。目前,16层PCB对于散热和功耗来说还是可

以接受的。但对于GB200架构的AI服务器,其

PCD将升级到18层,并且由于功耗较高,对散热

和功耗支撑的要求也会更高。至于GD200,预计

到明年其PCD会升级到20层。

Q:在服务器中,除了PCB外,还有哪些环节的

价值量提升较大?

A:除了PCB外,GB200服务器在技术方面有较

大变化,特别是在散热方面。GB200服务器从传

统的风冷散热转变为冷板式液冷散热,导致散热

模组的价值量大幅提升。例如,传统AI服务器的

风扇成本大约为200美金,而GB200的散热模组

成本则为120美金每个,如果服务器中有两个GB200卡,则散热模组成本接近240美金。此

外,光模块方面也有较大提升,GB200服务器的

光模块起步于800G,未来可能升级至1.6T,这比

传统AI服务器的光模块价值量要高。

Q:电源在GB200服务器中的价值量表现如何?

A:GB200服务器的电源价值量有显著提升。普

通服务器的单瓦电源价格大约在1.5到2美金,而

GB200的电源单瓦价格接近四美金。这是因为

GB200使用的是集中整机柜供电(power

shelf),单位价格提升迅速。GB200单个电源的

瓦数也从普通AI服务器的3200瓦提升至5500

瓦。以NVL36为例,需要近十个电源,总功率约

55千瓦,按照四美金每瓦计算,电源价值量超过

20万美金。对于72个GPU的配置,电源价值量将

是NVL36的两倍多。

Q:除了功率提升外,电源还面临哪些挑战?

A:电源的挑战不仅在于功率的提升,还在于其

设计和实现的复杂性。与普通服务器电源相比,

GB200的电源类似于集中供电系统,需要更精细的管理和控制。电源的设计需要考虑到效率、稳

定性以及与整个服务器系统的兼容性。尽管提升

了电源的功率和复杂性,但这也带来了更高的成

本和可能的技术难题。

Q:关于整机柜电源(Power Shop)的技术特

点和成本构成是怎样的?

A:Power Shop 需要保证电源的稳定性,并具

备消除不稳定电源波动的能力。它还具有类似电

池的功能,能在外部供电系统突然停电时,提供

约30秒的持续供电时间,用于服务器的自动关

机,以防止数据丢失。技术上,Power Shop 与

传统服务器电源有明显区别,如自动管理机制和

合理的关机流程。成本方面,Power Shop 的成

本从一块钱涨到四块钱,部分原因是电池费用的

分摊。

Q:GB200架构下AI服务器电源的供应商情况如

何?

A:GB200架构下AI服务器电源的供应商主要以

台湾的电源厂为主,其中台达是最大的供应商,并拥有相关专利。光宝作为第二大供应商,也被

授权生产。台达由于研发费用较高,其电源价格

较贵,而光宝由于是被授权生产,价格相对较

低,大约是每瓦数四美金。预计随着量产,价格

可能会进一步降低。

Q:麦格米特是否已经进入GB200架构下AI服务

器电源的供应链?

A:麦格米特据传已经为台达提供了样机,但尚

未最终确定是否成为供应商。麦格米特在海外有

工厂,且有供应电源的经验,但生产规模和能力

尚未达到台达和光宝的水平。如果麦格米特能够

进入供应链,预计其份额将在10%以内,且可能

在明年上半年开始小批量供应。

Q:关于HDI板的供应商情况,胜宏科技是否拥

有市场份额?

A:胜宏科技并没有进入HDI板的供应商名单,主

要的供应商为沪电等公司。

$新易盛(SZ300502)$ $鼎通科技(SH688668)$ $沪电股份(SZ002463)$

全部讨论

胜宏供母版,这块量很大