Q:GB200架构下AI服务器和PCB市场演变中,
代工要求有哪些提高?
A:GB200架构下,代工要求显著提高。首先,
代工厂商需要具备英伟达训练卡和推理卡的训练
组装经验。目前,越南的代工主要集中在广达和
鸿海两家,因为他们有组装训练卡和推理卡的经
验。GB200的组装要求代工厂商能够处理2个
B200、一个C和一个国际CPU组装在一个主板
上,即所谓的computer tree。这种变化意味着
只有真正具有白卡组装能力的供应商才能被选
中,目前只有广达和鸿海具备这种能力。因此,
代工的经验、产线以及良率都有较高要求。
Q:鸿海在GB200代工中的份额和盈利角度如
何?
A:鸿海在GB200代工中的份额相当大,占到
40%到50%。鸿海的份额基本在60%到60%之
间,占据较大份额。从代工的规模和机型来看,
鸿海主要以NVL72机型为主,而广达则以NVL36机型为主。因此,从板卡的绝对数来看,鸿海高
于广达。
Q:鸿海和广达在GB200代工中的接单模式有何
不同?
A:短期内,即2024年,GB200的组装和部件分
配模式、采购模式以及IP都属于英伟达。鸿海和
广达在代工GB200时,大部分部件如GPU、
CPU、网络散热模组等都由英伟达购买后分配给
他们。但从2024年下半年开始,部分终端用户,
特别是互联网客户,开始研发基于自己系统的定
制化GB200,尤其是针对NVL72的定制化
GB200。这时,GB200的IP归属于各个云厂商,
鸿海和广达的采购模式会发生变化,他们需要自
己付费购买相应部件,但核心部件的价格仍由英
伟达控制。
Q:GB200的主要客户群体是谁?他们对GB200
的使用和定制化有何计划?
A:GB200的主要客户群体是云厂商。目前,云
厂商使用的GB200主要是英伟达的固定配置。但从2024年下半年开始,云厂商开始进行定制化
GB200的开发,以适应不同的业务场景。定制化
GB200的生产预计从2025年第一季度末开始批量
进行。随着定制化的进行,供应链也会发生变
化,云厂商可能会改变供应商,不再完全依赖英
伟达现有的供应链。这意味着供应链将由云厂商
主导,通过他们的认可进行部件采购。
Q:代工厂在组装G200架构产品时的毛利率和净
利率有何变化?
A:代工厂在组装G200架构产品时,毛利率和净
利率确实存在变化。毛利率的变化并非由于某个
方面赚取的更多或更少,而是因为代工费用基本
一致。例如,英伟达的GP200产品,代工一台
MM772的成本约为40万美金,这包含了人力成
本和物料采购成本,如电子元器件和机壳等。代
工厂组装完成后,英伟达支付给代工厂的费用大
约为4万美金,毛利率接近30%,净利率约为
25%,盈利维持在12万美金左右。如果代工厂为
云厂商代工ML72,采购价格可能在260到280万美金,毛利率会降至5%左右,但盈利金额仍然维纪要、交流V:ljx688688rhr
持在12万美金左右。因此,虽然毛利率有所变
化,但盈利金额并没有太大变化。
Q:戴尔IPE等品牌厂商在AI服务器市场上的定位
和需求是什么?
A:戴尔IPE等品牌厂商主要面向企业市场,与云
服务大市场有所不同。他们的需求相对靠后,采
购量较小,尤其是在AF以上产品,不如云厂商。
他们更多依赖于英伟达的授权。英伟达GB200架
构的出现对市场有较大影响,云厂商开始研发基
可能通过两种方式与英伟达合作:一是英伟达提
供较低成本的GB200,二是授权他们开发GB200
主板,实现产品差异化,避免价格战。
Q:戴尔的业绩表现如何,其毛利和净利会受到
哪些影响?
A:戴尔的250系列业绩表现不错,FD收入达到
17亿美元,但营业利润相对持平。戴尔追求低毛
利策略,产品线不如美超威全面,主要依靠价格优势获取订单。虽然借助AI服务器风口提升了销
售额,但与美超微等有差距。戴尔的营收额提升
有限,因为要依赖低价抢占市场。预计戴尔的销
售模式不会有大变化,仍会维持低毛利水平。
Q:GB200架构对AI服务器和PCB市场的影响有
哪些?
A:GB200架构与传统AI服务器不同,将GPU直
接组装到CPU主板上,取消了OM板。这导致
PCB市场发生变化,主要供应商为联能、新兴电
子等,追求高阶HDI板。底层CPU主板供应商包
括沪电等,份额相对较小。材料方面的变化尚不
明确。总的来说,GB200架构的出现将推动AI服
务器和PCB市场的演变。
Q:GB200架构下AI服务器和PCB市场演变中,
同保等级有何变化?未来是否会使用马8?
A:目前互通版PCD版主要使用的是马6,因为马
8尚未推出。当前PCB层数在16到18层。预计明
年随着设备功率增加,下一代GB200的PCB层数
将增加到20层,并可能采用马8。今年使用的网络接口主要是800G,明年将切换到1.6T,对PCB
的互联互通要求和功耗性能要求将更高。
Q:马8与马6的单价有何变化?
A:GB200中使用的马6单价大约是2000美金一
块。马8的价格尚未确定,但预计会比马6提升
40%到50%,大约在3000美金左右。
Q:服务器中一个板子的成本如何计算?
A:一个板子的成本大约是1000美金,如果一个
服务器需要36个板子,则总成本约为36000美
金。
Q:云厂商定制GB200是否还有传统的八卡服务
器需求?
A:是的,TB200是基于B200卡TB200信用卡的
一种组装形式,并不意味着明年就全部都基于
200了,传统的八卡服务器仍然有需求。
Q:明年GB200的市场份额预计会占到多少?
A:明年GB200的市场份额预计能占到50%左
右,与八卡AI服务器各占一半。
Q:英伟达明年的芯片出货量预计是多少?A:英伟达预计明年B200的卡会出现近350万
张,B100的话差不多能有将近50万张。但这个数
据可能会在今年8、9月份进行调整。
Q:B100和B200之间的区别是什么?
A:B100和B200的区别主要有三点:HDM大
小、互联带宽以及推理性能。B200的HDM比
B100大,互联带宽有所提升,但最主要的区别在
于B200的推理性能比B100提升了将近四倍。
Q:B100、B200、NVL32和NVL72的出货节奏
如何?
A:今年GB200的出货节奏预计在九月底到十月
份开始,NVL36和NVL72各占1500套,总共
3000套。明年GB200预计出货量将近4万套,主
要是ML36,占到将近3万套,供给非互联网客
户,还有1万套是ML72。
Q:B200的服务器是否会在今年下半年推出?
A:是的,B200将在九月份推出。GB200的推出
需要有B200的卡,没有B200,GB200也无法申
请。B200的组装复杂度比发卡要高,但出货节奏上没有差别,预计晚一个月左右。目前GB200的
供应链已经准备好,代工厂在组装GB200时没有
太多技术问题需要解决。
Q:下一代服务器中PCB的升级方向是什么?
A:对于下一代服务器,特别是通用AI服务器,
预计会使用GB200主板的规格,即18层的这种架
构。目前,16层PCB对于散热和功耗来说还是可
以接受的。但对于GB200架构的AI服务器,其
PCD将升级到18层,并且由于功耗较高,对散热
和功耗支撑的要求也会更高。至于GD200,预计
到明年其PCD会升级到20层。
Q:在服务器中,除了PCB外,还有哪些环节的
价值量提升较大?
A:除了PCB外,GB200服务器在技术方面有较
大变化,特别是在散热方面。GB200服务器从传
统的风冷散热转变为冷板式液冷散热,导致散热
模组的价值量大幅提升。例如,传统AI服务器的
风扇成本大约为200美金,而GB200的散热模组
成本则为120美金每个,如果服务器中有两个GB200卡,则散热模组成本接近240美金。此
外,光模块方面也有较大提升,GB200服务器的
光模块起步于800G,未来可能升级至1.6T,这比
传统AI服务器的光模块价值量要高。
Q:电源在GB200服务器中的价值量表现如何?
A:GB200服务器的电源价值量有显著提升。普
通服务器的单瓦电源价格大约在1.5到2美金,而
GB200的电源单瓦价格接近四美金。这是因为
GB200使用的是集中整机柜供电(power
shelf),单位价格提升迅速。GB200单个电源的
瓦数也从普通AI服务器的3200瓦提升至5500
瓦。以NVL36为例,需要近十个电源,总功率约
55千瓦,按照四美金每瓦计算,电源价值量超过
20万美金。对于72个GPU的配置,电源价值量将
是NVL36的两倍多。
Q:除了功率提升外,电源还面临哪些挑战?
A:电源的挑战不仅在于功率的提升,还在于其
设计和实现的复杂性。与普通服务器电源相比,
GB200的电源类似于集中供电系统,需要更精细的管理和控制。电源的设计需要考虑到效率、稳
定性以及与整个服务器系统的兼容性。尽管提升
了电源的功率和复杂性,但这也带来了更高的成
本和可能的技术难题。
Q:关于整机柜电源(Power Shop)的技术特
点和成本构成是怎样的?
A:Power Shop 需要保证电源的稳定性,并具
备消除不稳定电源波动的能力。它还具有类似电
池的功能,能在外部供电系统突然停电时,提供
约30秒的持续供电时间,用于服务器的自动关
机,以防止数据丢失。技术上,Power Shop 与
传统服务器电源有明显区别,如自动管理机制和
合理的关机流程。成本方面,Power Shop 的成
本从一块钱涨到四块钱,部分原因是电池费用的
分摊。
Q:GB200架构下AI服务器电源的供应商情况如
何?
A:GB200架构下AI服务器电源的供应商主要以
台湾的电源厂为主,其中台达是最大的供应商,并拥有相关专利。光宝作为第二大供应商,也被
授权生产。台达由于研发费用较高,其电源价格
较贵,而光宝由于是被授权生产,价格相对较
低,大约是每瓦数四美金。预计随着量产,价格
可能会进一步降低。
Q:麦格米特是否已经进入GB200架构下AI服务
器电源的供应链?
A:麦格米特据传已经为台达提供了样机,但尚
未最终确定是否成为供应商。麦格米特在海外有
工厂,且有供应电源的经验,但生产规模和能力
尚未达到台达和光宝的水平。如果麦格米特能够
进入供应链,预计其份额将在10%以内,且可能
在明年上半年开始小批量供应。
Q:关于HDI板的供应商情况,胜宏科技是否拥
有市场份额?
A:胜宏科技并没有进入HDI板的供应商名单,主
要的供应商为沪电等公司。