推广 热搜: csgo  vue  angelababy  2023  gps  新车  htc  落地  app  p2p 

浪潮英信服务器:浪潮云服务3轮面试

   2023-05-19 网络整理佚名1020
核心提示:我们认为,以ChatGPT为代表的AI大模型应用普及将推动算力需求快速增长,服务器产业链是其中重要的受益环节之一。01AI大模型如何推动服务器产业链需求CPU,而浪潮英信服务器NF5280M6仅配置1-2个英特尔第三代Xeon处理器。从下游应用来看,服务器/数据存储是PCB重要的下游应用领域之一。研报:《服务器产业链如

我们认为,以ChatGPT为代表的AI大模型应用的普及将推动算力需求的快速增长,而服务器产业链是重要的受益环节之一。 AI计算的普及将推动服务器产业链发生以下变化:1)800G光模块升级提速,2)ABF载板、高密度PCB板、电源芯片用量增加,3)单价提升将推动服务器厂商毛利增速,4)AI推理芯片国产化率先落地。

核心观点

服务器:AI计算对能耗和稳定性提出更高要求,推高产品毛利和单价

据IDC统计,2022年全球PC服务器将达到1516万台,同比增长12%,其中AI服务器出货量占比约1%,市场规模占比约17%。 为了满足大模型训练和推理的需求,Nvidia DGX A100等AI服务器普遍采用8个GPU和2个CPU的异构架构。 服务器的散热能力和稳定性,以及服务器之间的高速通信能力都提出了更高的要求。

光模块:升级提前到来,800G光模块有望迎来放量元年

光模块是数据中心内部互联和数据中心互联互通的核心部件。 100G和400G是主流产品,800G过去主要用于超算等领域。 据LightCounting预测,2023年全球800G渗透率仅为0.62%。 以ChatGPT为代表的大AI模型对数据中心内外的数据流量提出了新的要求,有望加速光模块向800G的升级。

PCB/载板:AI大模利好ABF载板及高密度PCB增值

AI大模型的普及对于PCB/基板行业来说主要有两层意义。 首先,A100等GPU通常采用2.5D/3D封装技术,ABF载板是芯片实现2.5D/3D封装的核心部件之一。 从全球来看,产业链上的企业包括日本的味之素、日本的Ibiden、Shinko等材料厂商,韩国的Semco,以及中国台湾的景硕、欣兴等基板厂商。 其次,AI大模型需要多个GPU通过NVlink等特殊接口紧密连接,组成一个超级GPU,这对高密度PCB板的层数和通信速度提出了更高的要求。

半导体:推理芯片有望率先实现国产替代,功率半导体价值提升

我们认为,由于英伟达在CUDA软件平台上的先发优势,国内企业在训练芯片上取代英伟达还需要很长时间,推理芯片市场广阔(据IDC估计,推理芯片将占2023年超过58%的AI芯片市场),壁垒相对较低,国内部分企业取得了一定进展。 另一方面,DrMOS是服务器电源系统中常用的半导体器件,适用于超高供电需求。 高计算GPU产品功率的提升,对DrMOS的数量和性能带来了更高的需求。 目前,MPS等国外厂商占据市场主导地位,部分国内企业正在实现国产替代的突破。

文本

01 AI大模型如何推动服务器产业链需求

为了满足AI市场的需求,NVIDIA今年不仅在GTC2023上发布了L4 Tensor CoreGPU、L40 GPU、H100 NVL GPU和Grace Hopper等芯片,还进一步推出了NVIDIA DGX超级计算机,已经成为大型语言模型突破背后的引擎。 英伟达在GTC2023中表示,半数财富100强企业都安装了DGX AI超级计算机,DGX已经成为AI领域必不可少的工具。

DGX 配备了 8 个 H100 GPU 模块,H100 配备了一个 Transformer 引擎,旨在支持类似于 ChatGPT 的大型模型。 这 8 个 H100 模块通过 NVlink 交换机相互连接,实现完全无阻塞通信。 八个 H100 共同组成一个巨大的 GPU。 通过400Gbps超低延迟NVIDIA Quantum InfiniBand进行网内计算,将数千个DGX节点连接成一台AI超级计算机,应用范围不断扩大,成为全球客户构建AI基础设施的蓝本。

浪潮英信服务器_浪潮云服务3轮面试_浪潮云服务招聘

浪潮云服务3轮面试_浪潮英信服务器_浪潮云服务招聘

02 服务器厂商如何把握AI大模型的机会

AI 大模型训练和推理导致对 GPU 的需求增加。 AI 服务器采用异构架构。 NVIDIA DGX A100服务器8个GPU+2个CPU的配置远高于普通服务器1~2个CPU的配置,能够满足大型AI模型的需求。 需要。 在单片机计算和训练性能不断提升的基础上,服务器整体能效的提升也备受关注。 IDC预测,全球AI服务器市场将稳步增长,2021-2026E CAGR有望达到17%。 我们认为,大AI模型将带动算力需求的爆发式增长,并产生对AI服务器的需求。

浪潮云服务3轮面试_浪潮英信服务器_浪潮云服务招聘

全球AI服务器市场规模稳步增长,2021-2026E CAGR有望达到17%

IDC数据显示,2014-2021年,全球服务器厂商总销售额呈上升趋势,2021年全球服务器市场规模将达到990亿美元,其中戴尔、HPE、联想、浪潮位居前列的市场份额,占总量的40%以上。

浪潮云服务招聘_浪潮云服务3轮面试_浪潮英信服务器

浪潮英信服务器_浪潮云服务招聘_浪潮云服务3轮面试

IDC认为,2021-2026年全球AI服务器厂商市场将稳步增长。 预计2026年市场规模将达到3500万美元,预计2021-2026年CAGR将达到17%。 1H21,全球AI服务器厂商竞争格局相对集中,其中浪潮信息占比最高(20.2%),其次是戴尔、HPE、联想。

浪潮云服务招聘_浪潮英信服务器_浪潮云服务3轮面试

浪潮云服务3轮面试_浪潮英信服务器_浪潮云服务招聘

AI服务器采用异构架构,GPU数量远高于普通服务器

AI大模型训练和推理导致GPU需求增加。 目前AI训练主要采用:1)Nvidia的AI训练GPGPU:包括V100/A100/H100(22年下半年量产出货)和Nvidia在美国限制出口后推出的A800定制版。 2)AMD芯片推出的AI训练有小米250/250X/300。

在推理芯片的选择上,与训练相比,更注重模型的大小,推理更依赖于任务的性质,从而确定所需的芯片类型。 当需要大量的内容/图像AI生成时,需要GPU进行推理计算(如Nvidia主流的T4芯片); 而对于更简单的推理过程(语音识别等),CPU 有时会成为更好的推理引擎。

AI服务器采用异构架构,GPU数量远高于普通服务器。 多模态大模型AI服务器与普通服务器的主要区别在于: 1)架构不同。 AI服务器采用CPU+GPU/FPGA/ASIC等异构架构,而普通服务器一般采用CPU架构; 2) GPU 数量差异显着。 对比NVIDIA DGX A100和浪潮英信服务器NF5280M6的结构,NVIDIA DGX A100包括8颗A100 GPU和2颗AMD Rome CPU,而浪潮英信服务器NF5280M6只配置了1-2颗英特尔第三代至强处理器。 仅GPU一项,一台AI服务器就可以带来10万美金的增值。

浪潮英信服务器_浪潮云服务3轮面试_浪潮云服务招聘

在提升单片机计算和训练性能的基础上,服务器整体能效的提升也受到关注

英伟达在GTC大会上推出了DGX H100服务器,配备8个H100 GPU模块,并配备Transformer引擎,支持处理类似ChatGPT的生成训练模型。 推理能力分别提高9/30倍。 八个H100模块通过NVlink Switch连接,保证GPU之间的协作和通信。

我们认为AI服务器整体能效的提升将带动服务器各部分的升级需求,包括但不限于:1)AI训练和推理对网络带宽提出了更高的要求,即有望带动光模块速率进一步升级。 其中,800G光模块有望加速放量; 2)PCB:AI服务器的PCB一般有20-28层,传统服务器最多可达16层。 每增加一层,PCB价值增加1000元左右,所以单台AI服务器的PCB价值大约是单台传统服务器的3-4倍; 3)服务器半导体:GPU方面,一台AI服务器可带来约10万美元的价值提升,大功率电源需求也带动多相电源增长,进一步提升价值。

03 PCB厂商如何把握AI大模型的机会

从下游应用来看,服务器/数据存储是PCB重要的下游应用领域之一。 根据Prismark数据,预计2021年服务器/数据存储将占全球PCB产值的10%,预计其2021-2026年产值复合增长率位居下游首位PCB 段。

浪潮云服务3轮面试_浪潮云服务招聘_浪潮英信服务器

浪潮英信服务器_浪潮云服务3轮面试_浪潮云服务招聘

浪潮英信服务器_浪潮云服务招聘_浪潮云服务3轮面试

PCB主要用在服务器上: 1)主板:服务器的标准配置,使用的PCB价值最高; 2)电源背板:单独设置或与主板集成; 3)功能板:网卡、硬盘、内存、CPU等。 服务器PCB的特点主要体现在层数多、高深宽比、高密度和高传输速率,主要是高层板和封装基板。

浪潮云服务招聘_浪潮云服务3轮面试_浪潮英信服务器

浪潮云服务招聘_浪潮云服务3轮面试_浪潮英信服务器

AIGC大模型的训练和推理需要大量高性能计算的支持,增加了对AI服务器的需求,将进一步加速服务器平台的升级。 整体来看,AI大模型在PCB上的发展核心影响在于价值的提升,包括:1)服务器平台升级; 2)AI服务器对PCB板要求高。

服务器平台升级对PCB影响的关键在于总线标准的升级

价格 #1:服务器平台升级对 PCB 影响的关键是总线标准升级。 涨价逻辑是服务器平台升级→PCIe总线标准升级→传输速率提升→走线密度提升→PCB层数、材质等级、工艺(如背钻)要求更高更严→PCB价值提升。 以Intel服务器平台为例,从Purley到Whitley,再到即将量产的Eagle Stream,相应的PCIe接口等级也相继增加,分别是PCIe 3.0、4.0、5.0,数量PCB层数从不足12层增加到16层以上。 覆铜板材料等级从中损耗升级到超低损耗,背钻等工艺管控更加严格。 据行业研究,从Whitley到Engle Stream,虽然PCB层数只增加了2-4层,但价格却几乎翻了一番。

以ChatGPT大模型为主导的新一轮AI技术革命,将加速下一代服务器平台的渗透率和下一代服务器平台的发展。 从主流厂商的计划来看,AMD的Zen4平台和Intel的Engle Stream有望在今年Q3-Q4开始放量,有望开启新一轮的服务器PCB上行周期。

浪潮英信服务器_浪潮云服务3轮面试_浪潮云服务招聘

与传统服务器相比,AI服务器的PCB层数更多,单块PCB价值大幅提升

价格#2:与传统服务器相比,AI服务器的PCB层数更多,单块PCB价值大幅提升。 AI服务器与传统服务器的主要区别在于: 1)硬件架构更复杂:多采用“CPU+其他加速卡”的异构形式,目前以CPU+GPU为主流; 2) 加速卡数量更多:一般为四块 3) 设计更独特:专为系统结构、散热、拓扑等设计; 4)更专业的技术:如果服务器平台需要更大的内存带宽,NVlink提供更大的内存带宽,TensorCore提供更强大的AI算力等,这些差异,尤其是NVlink的特殊接口,使得AI服务器的提出对PCB层数和通信速度提出更高要求,导致AI服务器PCB价值大幅提升。

据业内研究,AI服务器的PCB一般有20-28层,而传统服务器最多可达16层。 每增加一层,PCB的价值就会增加1000元左右。 显着改善。

浪潮云服务招聘_浪潮英信服务器_浪潮云服务3轮面试

AI服务器在全球服务器出货量占比将逐年提升,长期仍有出货量增长空间

出货量:AI服务器在全球服务器出货量中的占比将逐年上升,长期来看仍有出货量增长空间。 目前AI服务器在整体服务器出货量中占比不高,但在智能算力需求潜在预期下,占比有望逐年提升。 长期来看,PCB/CCL有成长空间。 据TrendForce数据显示,截至2022年,预计搭载GPGPU的AI服务器年出货量将占服务器总量的近1%。 预估在ChatBot相关应用的加持下,2023年出货量年增幅将达到8%。此外,预计其2022-2026年CAGR将达到10.8%,复合增长率超过2倍全球整体服务器的速率。 因此,AI服务器对PCB的冲击在短期内主要是增值,长期来看仍有增长空间。

浪潮云服务招聘_浪潮英信服务器_浪潮云服务3轮面试

从竞争格局来看,大陆PCB厂商已经在全球服务器竞争中占据一席之地,但在AI服务器领域的参与度并不高。 AI大模型需要多个GPU通过NVlink等特殊接口紧密连接,形成一个超级GPU,这对高密度PCB板的层数和通信速度提出了更高的要求。

高算力需求拉动先进封装需求,ABF基板有望充分受益

浪潮云服务招聘_浪潮云服务3轮面试_浪潮英信服务器

高算力需求带动先进封装需求,ABF基板有望充分受益。 随着基于AI大模型的AIGC新应用的快速兴起,对算力的要求越来越高,单台服务器将配备更多的CPU/GPU等芯片。 解决多芯片间高速互连的先进封装成为关键。 IC载板作为先进封装的关键材料,有望进一步打开价值空间。 特别是ABF载板,与BT载板相比,具有层数更多、面积更大、线密度更高、线宽线距更小等特点。 性能IC有望在放量下受益更充分。 根据Prismark的预测,ABF基板是IC基板行业中规模最大、增长最快的部分。 预计2026年全球ABF基板市场规模将达到121亿美元,2021-2026年CAGR为11.5%。

浪潮云服务招聘_浪潮云服务3轮面试_浪潮英信服务器

从竞争格局来看,载板技术壁垒较高。 长期以来,日韩台厂商为主,国内企业起步较晚。 我们认为,随着半导体产业链国产化进程加快,国产厂商仍有很大的成长空间。

04半导体厂商如何把握AI大模型的机会

电源芯片:AI服务器多相功耗增加,国产替代空间广阔

随着大数据、云计算和人工智能概念的兴起,CPU和GPU对电源稳压器(VRM/Vcore)和负载点电源(PoL)的效率和功率提出了严峻挑战。 多相降压电源包括控制器和 DrMOS。 它是一种多通道交错式并行同步Buck拓扑结构,被公认为是此类应用场景的最佳解决方案。 通过多相控制器与DrMOS的结合使用,并联使用多个降压电路的输出浪潮英信服务器,输出数百安培到数千安培的电流,适合超大功率电源的需求。 DrMOS可以为CPU/GPU供电设计带来三大优势:1)供电更稳定; 2)减少功率元件; 3)功率元件小型化和电路简化,满足下游产品薄、短、高效的需求。

浪潮云服务招聘_浪潮英信服务器_浪潮云服务3轮面试

MPS数据显示,服务器主板电源解决方案涉及CPU/GPU电源、存储DDR电源、POL和EFuse等产品,CPU服务器和GPU服务器电源的总市场规模约为20亿美元。 具体而言,CPU和GPU供电主要采用多相控制器+DrMOS方式。 根据MPS官网介绍,最初CPU使用4相和6相供电,GPU进化到使用16相供电。 市场总规模约为6亿美元。 POL(point-of-load power supply)是分布在各功能单元电路前端的DC/DC稳压器。 一台服务器上有十多个POL,对应的市场规模约为6000万美元。 由于DDR5标准将直流供电功能从主板转移到了内存条上,因此每根内存条都会额外包含一组DC-DC直流变压电路。 这种方式无疑会增加成本,总市场规模约为2.8亿美元。 电子熔断器EFuse用于为子电路或PC板提供局部快速响应保护,对应的市场规模约为6000万美元。

浪潮云服务3轮面试_浪潮英信服务器_浪潮云服务招聘

AI服务器采用异构架构。 NVIDIA DGX A100服务器8个GPU+2个CPU的配置远高于1~2个CPU的普通服务器。 单台NVIDIA A100至少需要16相供电方案,单台AI服务器所需的多相供电数量呈几何级数增长。 IDC预测,全球AI服务器市场将稳步增长,2021-2026E CAGR有望达到21%。 我们认为,AI大规模模型将带动算力需求爆发式增长,催生AI服务器需求,带动多相电源市场需求增加。

浪潮英信服务器_浪潮云服务招聘_浪潮云服务3轮面试

国外厂商主导DrMOS和多相控制器市场,国内空白亟待填补。 由于DrMOS技术的诸多难点:1)大功率大电流技术——BCD工艺; 2)设计; 3)封装方面,DrMOS在国内尚属空白,亟待推动国产替代。 DrMOS的主要厂商有MPS、ADI、TI和ON Semiconductor。 目前下游厂商几乎只使用国外的DrMOS产品。 例如微星B650迫击炮使用的是MPS产品,2206/MP87670单相提供80A的额定电流。 国内一些厂商已经具备了DrMOS量产能力。

计算芯片/存储控制芯片:加入AI加速芯片,提高计算效率

芯片端:加入GPU等AI加速芯片,提升计算效率

与普通服务器相比,AI服务器芯片通常被优化设计用于执行机器学习和深度学习算法,通常使用异构计算。具体来说

1)CPU:AI服务器和普通服务器都使用CPU。 但 AI 服务器通常使用更高性能的 CPU 来更快地处理复杂的计算任务。

2)GPU:GPU是AI服务器的核心部件,在矩阵运算和深度学习模型训练方面具有更高的效率。 相比之下,普通服务器通常只使用 CPU,不使用 GPU。 以浪潮信息为例,我们看到AI/HPC服务器分别配备8块A800 GPU和4块Nvidia GPU,如V100/P100。

3)FPGA/ASIC:是专门为特定任务而设计的芯片。 与通用 CPU 或 GPU 相比,这两种芯片可以更快地执行特定的计算任务。 我们看到HPC服务器比通用/AI服务器多搭载了两颗Xilinx FPGA,随着AI服务器的使用,整体服务器的单机芯片使用率有望大幅提升。

浪潮英信服务器_浪潮云服务招聘_浪潮云服务3轮面试

浪潮云服务3轮面试_浪潮英信服务器_浪潮云服务招聘

05 通信设备厂商如何抓住AI大模型先机

光模块:数据中心市场空间巨大,2023年有望迎来800G放量元年

全球光模块市场稳步增长,数据中心光模块市场广阔。 据LightCounting统计预测,2019年至2021年,全球光模块市场规模将从89亿美元增长至114亿美元。 预计2025年全球光模块市场规模将达到171亿美元,对应2022-2025年复合增长率为10.65%。从全球光模块市场结构来看,CWDM/DWDM光模块和以太网光模块用于数据中心占比较高,两者合计出货量占比将从2019年的74%提升至2021年的79%。模组市场规模47亿美元,占比41%,是最大的子组件光模块品类市场。

浪潮云服务招聘_浪潮英信服务器_浪潮云服务3轮面试

浪潮英信服务器_浪潮云服务3轮面试_浪潮云服务招聘

800G有望迎来放量元年。 随着云计算、AI、元界等科技产业的快速发展,以及传统产业的数字化转型,全球范围内数据的快速增长对网络带宽提出了新的要求,有望带动光模块需求率升级。 LightCounting指出,AI应用带来的数据流量增长、数据中心带宽的意外需求、光模块厂商技术的迭代,都是800G应用的驱动力。 根据LightCounting 2022年4月发布的预测,2022-2024年全球800G以太网光模块出货量预计将分别达到11、39、119万片。我们认为随着800G光模块有望迎来出货量的增长。放量元年,国内龙头光模块及上游光器件、光芯片厂商有望迎来发展机遇。

浪潮云服务3轮面试_浪潮云服务招聘_浪潮英信服务器

国内光模块厂商彰显全球竞争力。 根据Lightcounting 2022年5月发布的统计数据,2021年全球前十大光模块厂商中,中国厂商占据六席; 近十年来,国内光模块厂商的竞争力和市场地位得到快速提升。

浪潮云服务招聘_浪潮云服务3轮面试_浪潮英信服务器

以太网交换机芯片:交换机核心部件,国产替代空间广阔

以太网交换机芯片是交换机的核心部件。 以太网交换机是用于网络信息交换的网络设备,是实现各类网络终端互联互通的关键设备。 交换设备由以太网交换芯片、CPU、PHY、PCB、接口/端口子系统等组成,其中以太网交换芯片是核心部件。 交换芯片是交换处理大量数据和报文转发的专用芯片,是针对网络应用优化的专用集成电路(ASIC)。

浪潮云服务招聘_浪潮英信服务器_浪潮云服务3轮面试

全球以太网交换芯片市场稳步增长,国内增速领先。 根据盛科通信和中智咨询的招股书,2020年全球以太网交换芯片市场规模为368亿元,同比下降4.3%。 434亿元。 2020年我国交换芯片市场规模90亿元,同比增长25.2%。 中投公司预计,2025年我国市场规模将达到171.4亿元,对应2021E-2025E复合增长率为13.8%,大幅领先于全球增速。 信通院方面表示,由于国内市场在数据中心等新基建领域的政策环境有利(如计算东西向、算力网络建设等政策)。 ,交换机作为数据中心架构的主干,保证数据传输稳定可靠。 这将大大提振需求。

浪潮云服务3轮面试_浪潮云服务招聘_浪潮英信服务器

浪潮云服务3轮面试_浪潮英信服务器_浪潮云服务招聘

“高速”:100G及以上的端口速率将成为主流,以满足下一代数据中心的带宽需求。 端口速率是以太网芯片每个端口每秒传输的最大比特数,是衡量芯片性能的重要指标。 近年来,数字经济的快速发展,推动了云计算、人工智能、大数据等科技产业的快速发展,以及传统产业的数字化转型。 全球数据的快速增长对网络带宽提出了新的要求。 根据信息通信研究院《数据中心产业地图研究报告》,100G、400G及以上的市场需求将逐渐增加,预计400G产品最终将占据主导地位。 作为主力军,800G交换机有望从2023年开始快速发展。据中观咨询预测,100G以上的交换机占比将从2020年的24.1%提升至2025年的44.2%。

国内商用交换芯片行业高度集中浪潮英信服务器,被海外巨头垄断。 在以太网交换芯片领域,少数参与者占据了多数份额。 2020年中国商用以太网交换芯片市场,Broadcom、Marvell、Realtek分别以61.7%、20.0%、16.1%位列前三,CR3达到97.8%。 ,博通的产品在超大规模云数据中心、HPC集群和企业网市场占有较高份额,是以太网交换芯片的全球领导者。 由于交换芯片技术、客户、应用、资金壁垒较高,行业整体本土化程度较低,国内参与厂商较少。

浪潮英信服务器_浪潮云服务3轮面试_浪潮云服务招聘

浪潮云服务3轮面试_浪潮英信服务器_浪潮云服务招聘

浪潮英信服务器_浪潮云服务招聘_浪潮云服务3轮面试

风险提示:

1)AI技术落地不如预期。 虽然人工智能技术的发展正在加速,但受制于成本和实施效果等制约因素,相关技术的落地步伐可能没有我们预期的那么快。

2)国产替代速度低于预期。 行业和公司的远期收入预测是基于国产替代将带来广阔空间的假设。 若自主可控进度不及预期,则存在公司收入和利润增长不及预期的风险。

3)地缘政治风险。 中美贸易关系存在不确定性,贸易摩擦激化短期内可能对国内科技企业产生负面影响。

4) The content of unlisted companies or stocks not covered in this research report is an objective public information arrangement, and does not mean that the research team recommends or covers the company or the stock.

Related research papers

Research report: "How the server industry chain benefits from the AI ​​model" March 28, 2023

Huang Leping S0570521050001 | AUZ066

Yu Yi S0570520090002 | BNC535

Chen Xudong S0570521070004 |BPH392

Ding Ning S0570522120003

Zhang Haoyi S0570522020001

Wang Xing S0570121070161

Hu Yuzhou S0570121040041 | BOB674

Wang Xinyi S0570121070166 |BTB527

Gao Mingyao S0570121080027

Chen Yu S0570121120092

 
反对 0举报 0 收藏 0 打赏 0评论 0
 
更多>同类资讯
推荐图文
推荐资讯
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报
Powered By DESTOON