英伟达GB200铜连接解读

事件:英伟达发布最新的GB200系列算网系统(架构参考今早的示意图),算力性能显著提升,其中同时应用了铜连接、光连接的方案,市场对“光”与“铜”的延伸路径讨论较多。

1、现状:GB200(包括此前GH200)系列是NV定义的“superchip”系统,与传统服务器相比,系统颗粒度大,机柜内36或72个GPU的连接以电信号为主,对外则同时应用了NVLink和InfiniBand两套网络。

铜与光的选择,本质是平衡距离和速率的选择。

2、是否GB200降低了光通信的重要性?我们推测:

参照GH200,GB200NVL72系统的目标场景,更多针对【大集群/云/平台型客户】,即英伟达定义的“AI Cloud/AI Factory“,预计存在形式是【多机柜集群】,这种跨机柜≥800G的网络,电损巨大,光通信是刚需;

而从液冷/供电/运维等角度看,中小客户仅采用单套GB200系统的可行性有待商榷,或许传统服务器或上云是更好选择。(亦是NV差异化策略)

3、训推角度看,GB200的设计目标是:单机柜就能应对AI推理,利于云的虚拟化布局。

GB200系统最小单元为机柜,且推理性能大幅提升,能够更好地应对巨量参数、跨模态、海量token、多并发的推理场景,避免大量单GPU分布式。云IDC的场景中能更好应对未来海量推理需求(参考AWS、MSFT的评价)。

4、市场理解的铜连接增加,原因在于:

此前H100系列的集群,没有机柜内互联,而是单独配置一套网络机柜,加之芯片速率较高,因而几乎没有短距铜线;

而GB200系列,尽管机柜内铜线不少,但大集群中NVLink域的光互联+IB扩容的光互联需求非常庞大,加之未来硅光、chip to chip光I/O等路径,已经十分明确。

Q:在GTC大会上,英伟达的产品发布情况与预期有何不同?

A:此次GTC大会上,GB200成为了主推产品,而原本预期的B100、B200等产品并未如预期般发布。GB200芯片内包含2个GPU和1个CPU,主要展示的产品是基于36颗GB200芯片构成的单个机柜,作为服务器使用。相较于去年发布的GB200,此次GB200并没有展示标准集群产品,而是只展示了一个36卡组成的单机柜产品。

Q:在GB200系列中,IP架构的作用是什么?

A:对于一些需要跨机柜连接的大客户来说,IP架构用于外部连接。然而,GB200和GB200的区别在于内部连接。GB200采用m link电连接(即GPU到交换机采用铜连接方案),而非去年的内背板连接方式。黄仁勋在大会上特别强调了铜连接在成本降低和性能展示上的优势。

Q:在GTC大会上,黄仁勋对铜连接方案进行了特别讲解,它有什么优势?

A:这是第一次在如此重要的大会上专门讲解铜连接方案,这也是大家非常关注的一点。GPO之间通过mlink连接,确定采用的是铜连接,其产品方案可能类似于去年的内背板连接方式。黄仁勋强调了铜连接在成本降低和性能展示上的优势。

Q:此次GB200系列的发布对市场的影响如何?

A:GB200系列作为英伟达新一代的服务器级GPU芯片,其性能和效率的提升将对市场产生重大影响。特别是其采用铜连接方案,可能会改变GPU集群的内部连接方式,降低成本并提高性能。此外,GB200可能将改变数据中心的设计和部署方式,进一步推动人工智能和云计算的发展。

Q:GB200铜连接优势?

A:GB200发布重点:GB200单芯片含2个GPU和1个CPU,发布的主推产品是基于36颗GB200芯片构成的单机柜产品。显示英伟达侧重电连接(mlink)而非光连接技术。市场推广与预期:GB200将被广泛应用,区别于未大规模应用的GH200。据黄仁勋在会上的发言,多个潜在大客户预示着GB200有较高的放量预期。市场普遍认为GB200的推广可能导致光模块与GPU的配比关系从1比2.5逐步提升至1比9,预计明年的GB200销量可能极具增长潜力。

Q:GB200铜连接创新的变革是什么?

A:GB200的创新主要在于它集成了交换机、服务器和GPU,改用了刀片式服务器连接,采用背板线缆模式。这种模式提高了散热效率和信号传输质量,与以往产品GH200的主要区别在于这一创新。

Q:背板连接器的行业趋势如何?

A:在AI服务器、大型交换机、路由器中使用背板连接器的趋势逐渐增强,技术发展也朝向正交零背板和线缆背板模式演进。背板线缆具传输距离长、布线灵活但成本相对较高的特点。

Q:背板连接器的需求和价格趋势如何?

A:AI服务器需求的增加推动了背板连接器的需求,而切换到线缆背板模式使得价值量提高,总体价值占单台服务器成本的3%至5%。因此,整个行业呈现出量价齐升的发展态势。

Q:海外供应链份额情况如何?

A:目前海外供应商如Affinor、MossTechnology主导着背板连接器市场,占据约60%-78%的市场份额。

Q:国产替代趋势是否正在强化?

A:是的,随着专利限制的减弱,国产厂商如华为等设备商正积极扶持国产替代。华丰科技等厂商已经成为了主要供应商,国产替代速度正在加快。

Q:华丰科技及鼎通科技参与国产替代的预期如何?

A:华丰科技及鼎通科技等公司积极参与国产替代,与AI及高速互联产品相关的订单增量可能会带动一季度及全年业绩增长。具体表现还需要进一步观察。

Q:GB200的发布对光模块行业有何影响?

A:GB200的发布对光模块行业是一个利好,因为它满足了跨机柜连接的需求,而这种需求在大多数客户中是存在的。现有的GB200带宽双向1800G,按照1.6T配置比例,相当于1比9的关系。如果使用800G方案,比例关系会达到1比18。从价值上来看,区别不大,但当前1.6T模块四季度预计能够量产,客户更倾向于使用性价比更高的1.6T方案。因此,光模块将会升级,推动从现在的1比2.5到1比9的趋势。

Q:GB200与GH200的主要区别是什么?

A:GB200与GH200的主要区别在于GH系列不是一个放量产品,而GB200则拥有广泛的潜在客户群体,包括谷歌、Meta、OPenai、微软、甲骨文和特斯拉等。这意味着GB200将会得到广泛应用和放量。

Q:市场对下一年度1.6T模块需求的预期如何?

A:市场对下一年度1.6T模块需求的预期在200万到300万之间,我们模型预测为250万。这还未考虑单独发布的B100或B200系列带来的增量。

Q:GB200采用了哪种连接方案?

A:GB200实际上采用了铜连接方案,这种方案减少了成本。尤其是GB200的放量,将会成为推动光模块需求上升的重要因素。

Q:此次大会上黄仁勋的讲述反映了什么产业趋势?

A:此次大会上黄仁勋的讲述可以看作一个产业趋势的反映,不仅仅是短期内的一个热点。随着时间推移,业界会观察到相关公司的业绩兑现。市场对铜与光连接方案曾有争论,但现在已确认GB200采用了铜连接方案。

Q:光模块行业的核心投资标的是什么?

A:中际旭创、天孚通信、新易盛是光模块行业的核心投资标的。尤其是在GB200放量和1.6T模块需求上升的趋势下,这些公司将会得到更多的关注。

Q:对于铜连接方案的市场前景如何?

A:市场对铜连接方案的态度正在发生变化,GB200采用了铜连接方案这一事实表明这种方案在未来可能会得到更广泛的应用。随着相关公司业绩的兑现,铜连接方案的市场前景值得期待。

Q:GB200与GH200在设计和应用上有何主要区别?

A:GB200的设计将交换机、服务器和GPU集成在同一个机柜内,采用了类似刀片式服务器的连接方式,在正面可见交换机的IO接口,而在背面,交换机和GPU之间的连接大概率采用了铜缆背板。相比之下,GH200采用分开连接的设计,即使用DAC(DirectAttachCable)连接方式。

Q:铜缆背板在GB200的设计中扮演了什么角色?

A:铜缆背板在GB200的设计中起到了关键作用,它连接了背板连接器,并支持交换机和GPU板卡的连接。这种设计使得服务器和交换机间的信号传输更为便捷。

Q:背板连接器的主要应用领域是什么?

A:背板连接器主要应用于大型交换机、路由器以及AI服务器。特别是在模块化设计的服务器和大型交换机、路由器中,这种子板和背板的架构会更为常见。

Q:背板连接器的行业发展趋势?

A:随着服务器和交换机设计的进步,背板连接器的需求预计将不断增长。尤其是在大型交换机、路由器以及AI服务器领域,这种连接器的应用前景广阔。

Q:供给端竞争格局如何?

A:目前,背板连接器的供给端竞争格局相对稳定。主要的供应商包括一些知名的电子制造服务公司,如富士康、广达等。他们凭借丰富的生产经验和强大的供应链管理能力,为市场提供稳定且高质量的背板连接器产品。

Q:GB200的设计对背板连接器需求的影响?

A:GB200的设计带动了AI服务器与大型交换机、路由器需求的增长,进而促进了背板连接器需求的放量。这种设计模式下的服务器和交换机,对背板连接器的需求量将会有显著的提升。

Q:背板连接器在技术发展路径上如何演进?

A:背板连接器正朝着两个方向演进,一是正交零背板,二是线缆背板。GB200采用的便是线缆背板模式,其优势在于更佳的散热、较低的传输损耗、更长的传输距离以及布线灵活性。但缺点是成本较高。

Q:背板连接器的需求端逻辑是什么?

A:背板连接器的需求主要由AI服务器驱动,而线缆背板模式相较于传统背板PCB模式,价值量显著提升。目前,背板连接器的价值占单台服务器成本的比例约为3%至5%。

Q:目前有哪些公司可以提供背板连接器的供给?

A:目前可从两个方向寻找相关公司。一是海外产业链,目前海外高速铜连接器供应商以艾菲诺、莫仕和泰科为龙头,市场份额大概占据60%至80%。二是国产替代海外产品的趋势,国内代工公司如鼎通和意中电子也有代工铜连接器组件的业务。

Q:对于国内代工公司而言,如何应对海外公司股权购买困难的情况?

A:对于国内代工公司而言,可以转向代工这些海外公司的国内企业。如鼎通和意中电子等公司有代工铜连接器组件的业务。

Q:国产替代海外产品的趋势如何?

A:随着国内技术水平的提升和市场需求的变化,国产替代海外产品的趋势正在加强。国内企业正在积极研发和生产高性能、高可靠性的背板连接器产品,以满足市场需求。

Q:未来背板连接器的市场前景如何?

A:随着人工智能、大数据等技术的快速发展,背板连接器的市场需求将持续增长。未来,背板连接器市场将迎来更多的机遇和挑战,需要国内外企业不断加强技术研发和产品创新,以满足市场需求并保持竞争优势。

Q:为什么这对国内高速背板连接器厂商非常有利?

A:有利因素主要有几方面。首先,国产厂商面对的专利壁垒相较以往有所减弱。新一代产品,即112G背板网粘合剂,在国内生产上鲜有专利限制。由于外厂商在最新领域的研发大致与国内厂商同步,原本面临的5到10年研发领先的海外厂商专利壁垒已经不那么严密。其次,在中美贸易摩擦的情况下,国产设备商如华为,自2018年与华丰科技合作,加大了高速背板连接器的研发力度。华丰科技的56G产品现已成为华为的主要供应商之一,包括中兴、浪潮等公司也在高速连接领域与其合作,预示国产替代速度将非常快。

Q:国内主流公司有哪些?

A:国内主流公司包括华丰科技、中航光电等上市公司。

Q:AR服务器中使用的线缆背板模式预计会成为主流趋势吗?

A:是的,AR服务器中使用的线缆背板模式预计会成为主流趋势。

Q:哪些公司层面值得关注?

A:华丰科技和中航光电在公司层面值得关注。

Q:代工方面有哪些公司值得关注?

A:代工方面,可以重点看鼎通科技和中一电子。鼎通科技除了代工IO连接器外,还有背板连接器组件的业务。

Q:新一代产品(即112G背板网粘合剂)在国内生产上鲜有专利限制的原因是什么?

A:外厂商在最新领域的研发大致与国内厂商同步,原本面临的5到10年研发领先的海外厂商专利壁垒已经不那么严密。也就是说,专利限制不再像以前那样严格,国内厂商有机会突破专利壁垒,进一步发展自己的业务。

Q:华丰科技的56G产品为何能成为华为的主要供应商之一?

A:华丰科技的56G产品现已成为华为的主要供应商之一,这主要是因为华为与华丰科技在高速连接器领域的合作加深,双方在技术研发上的同步性较高,使得华丰科技的56G产品能够满足华为的需求。同时,包括中兴、浪潮等公司在高速连接领域也与华丰科技有合作,这也进一步证明了华丰科技在高速连接器领域的实力和竞争力。

Q:华丰科技将显著受益于AI升腾服务器的放量,未来还有望获得华为的相关招投标订单,这对公司业务有何影响?

A:华丰科技凭借AI升腾服务器的放量,将显著提升公司业绩。此外,随着华为相关招投标订单的释放,公司业务有望进一步增长。目前,华丰科技正在积极扩大AI升腾服务器产能,以满足市场需求。在短期内,华丰科技的一季度业绩应有所改善,通信恢复情况良好。同时,我们也将继续关注升腾服务器背板需求的发展节奏。

Q:鼎通科技除了IO连接器业务外,背板连接器组件代工业务也值得关注,其核心客户包括海外龙头艾菲诺和莫世泰科,这对公司业务有何影响?

A:随着800G相关产品以及GD200铜连接需求的增长,鼎通科技预计将迎来业务增长。这种增长将主要来自于代工收入的增加。预计将带动公司代工收入的增长。一季度,鼎通科技已经展现出良好的业绩表现,全年业绩的走势则取决于各连接产品的放量节奏。

Q:对于华丰科技和鼎通科技,它们未来的发展重点和挑战是什么?

A:华丰科技未来的发展重点在于继续扩大AI升腾服务器的生产和销售,同时保持与华为的合作关系,争取更多的招投标订单。然而,这也会面临市场竞争加剧和需求不确定性的挑战。鼎通科技的发展重点则在于拓展背板连接器组件的代工业务,以满足不断增长的市场需求。同时,该公司也将关注新兴技术和产品的研发,以保持市场竞争力。然而,由于该公司的业务具有高度的客户定制化,因此管理供应链和生产效率的挑战也不可忽视。

Q:在公司业绩展望方面,两家公司对未来的预期如何?

A:华丰科技和鼎通科技都预计在未来一段时间内,公司的业绩将有所改善。两家公司都期待在AI、云计算等新兴领域取得更多的市场份额和业务机会。然而,由于市场竞争和需求的不确定性,两家公司也提醒投资者注意风险和挑战。

纪要来源:【文八股调研】小程序

来源:xueqiu日期:2024-03-20