来源: 半导体产业纵横

微信图片_20240318151328.png

过去一年,用于AI服务器的GPU一直供不应求,而从未来一年的发展态势来看,相关产品的紧张程度有增无减。

据TrendForce(集邦咨询)预测,2024年全球服务器整机出货量约1365.4万台,年增长率约2.05%。同时,市场仍聚焦部署AI服务器,出货占比约为12.1%。

从各大ODM出货动态来看,今年,增长幅度最高的是Foxconn(富士康),预估出货量年增约5%~7%,包含Dell 16G平台、AWS Graviton 3与4、Google Genoa和Microsoft Gen9等订单。AI服务器订单方面,Foxconn今年已斩获Oracle订单,同时也承接了部分AWS订单。

增长幅度排名第二的是Inventec,预估出货量年增约0~3%。AI服务器方面,除了北美CSP,中国客户,如ByteDance需求最强,预估今年Inventec 的AI服务器出货量年增长率可达双位数,占比约10%~15%。

排在Inventec之后的是广达和Supermicro,预计今年服务器出货量年增长率持平。

整体而言,各家ODM在2024年的出货仍以AI服务器最为强劲,主要受惠于北美云端数据中心厂商订单带动,预计今年AI服务器出货增长率和占比都将达到两位数百分比。就出货种类而言,今年,搭载高端AI训练芯片(如英伟达H系列和AMD的MI系列产品)的机种出货量有机会翻倍增长。这对英伟达和AMD来说,意味着更大商机。

01

店大欺客?

目前,英伟达占据80%的AI服务器GPU芯片市场份额,AI系统和互联网大厂都需要该公司的GPU,因此,英伟达在该市场拥有很大话语权。

最近,有外媒报道,英伟达可能刻意延后出货,以限制竞争对手接单。

报道称,如果英伟达发现客户正在寻求更好的业务机会,则可能会拖延数据中心GPU的出货。英伟达的竞争对手、人工智能芯片创业公司Groq表示,由于客户担心英伟达报复性出货延迟,都心存恐惧地对取得或设计人工智能技术保密。

Groq首席执行官罗斯(Jonathan Ross)表示,由于潜在客户担心被英伟达发现与其它厂商讨论接单,客户们都会否认自己曾与这些竞争对手公司会面。实际上,这种情况在业界并不少见。罗斯说:“很多人都说,如果英伟达听说客户正在会面,它们会否认这一点。问题是你必须提前一年向英伟达付款,可能会在一年内得到硬件,也可能需要更长时间。”

外媒甚至暗示,微软、Google和亚马逊等科技巨头正打造自有人工智能加速器,但都坚称不打算成为英伟达的竞争对手,因为英伟达在人工智能市场中占有主导地位。

针对罗斯的声明,英伟达CEO黄仁勋告诉行业分析师,他试图公平地向客户分配GPU,并将避免向不立即使用加速器的公司出售产品。

在Groq指控英伟达使用延后出货手段后,AMD前副总裁赫克尔曼(Scott Herkelman)表示,英伟达的确采取类似策略,他甚至称英伟达为“GPU独占集团”。他在社交媒体X上发文写道:“这种情况发生的次数比预期的要多。”

赫克尔曼的表态十分引人关注,因为他从2016年起负责AMD的图形业务部门,该部门在消费者和数据中心业务方面与英伟达竞争,直到2023年离开AMD。更重要的是,他在2012年9月~2015年5月间担任英伟达GeForce业务总经理。

不过,目前尚不清楚是否有证据证明英伟达确实有上述行为。

02

如何保持行业领导地位?

英伟达在占据AI服务器用GPU市场主动地位的情况下,一定会想方设法实现利润最大化,具体措施方面,除了高定价,保持客户粘性是很重要的方式,在这方面的具体措施,包括技术性的,如用CUDA软硬件生态系统牢牢地抓住广大工程师,还有就是商业操作层面的,要尽量降低竞争对手的获客机会。

在当前的AI服务器和相关GPU市场行情下,无论是GPU提供商,还是系统集成商或互联网大厂,都越来越敏感了,特别是互联网大厂,都在做两手准备,在向英伟达采购更多GPU的同时,正在加紧自研相关芯片。对于英伟达的各种客户而言,更多地接触AMD和英特尔是必然。

微软、Meta、亚马逊等云服务提供商为了降低芯片成本,并使芯片供应链多元化,减少对英伟达的依赖,不仅开始提升采购AMD的MI300系列产品数量,要求ODM厂设计专门采用MI300系列产品的AI服务器,还纷纷加强自研HPC芯片力度,争取将更多自研芯片用于自家的互联网和云计算系统。

AMD是英伟达最大的竞争对手,由于受到越来越多英伟达客户的关注,对AMD产品的采购量在增加,使得该GPU“二哥”的行业地位持续提升,这在资本市场上有越来越明显的表现。最近,AMD股价涨幅超过9%至每股192.53美元,创造历史新高,2月份累计上涨了14.8%,市值首度突破3000亿美元。

根据道琼斯市场数据,AMD的市值达到了3110亿美元。在近期的连续上涨之后,AMD股价越来越贵,其市盈率接近50倍,远高于英伟达的32倍。

这样看来,虽然英伟达依然很风光,但受限于先进制程、封装产能,以及来自各级别芯片对手的竞争,该公司的危机意识也在增加。

对于英伟达来说,要加快推出新品和优化原有产品的节奏。

英伟达AI年度盛会“GTC 2024”将于3月18日在美国登场,届时,黄仁勋将公布旗下最新的AI芯片、采用新一代Blackwell架构的B100 GPU。据悉,该新品将由台积电3nm制程代工生产,最快今年第四季度出货。

GTC大会不仅将世界各地的专业工程师、研究人员会聚一堂,还将邀请多位科技大老亲自到场,活动预计将涌进超过30万人(线下和线上总参与人数),今年的GTC也被外界看作是观察2024和2025年AI关键技术发展进程的重要风向标。

英伟达即将发布的B100,与目前的H系列GPU相比,整体效能有大幅提升。其中,光是HBM内存容量,就比H系列最强的H200芯片高出约40%的容量,使得B100能应对高效能HPC或加速LLM的AI训练需求。据了解,B100芯片的AI效能,至少是Hopper架构H200的两倍,可以达到H100的4倍以上。

多家AI服务器系统大厂已经开始争夺B100,包括已成为英伟达B100模组供应商的代工大厂纬创,以及提供3nm或4nm制程技术的台积电,还有现已开始接到来自英伟达B100 AI服务器水冷项目订单的代工大厂英业达。英业达表示,今年的AI服务器市场仍以英伟达产品为主流,并以高端训练用的AI服务器产品为市场主力。

对于即将发布的新品B100,英伟达对所搭载的散热技术也进行了升级,从原来的气冷转为水冷,对此,黄仁勋曾提到,自己坚信浸没式水冷技术是未来发展方向,将带动整个散热市场迎来全面的革新。据悉,英伟达从B100开始,未来所有产品的散热技术,都将由气冷转为水冷。

03

中国市场给英伟达增添了更多危机感

英伟达对竞争对手带给它威胁的重视程度,从它对中国大陆市场及本土芯片企业的态度就可以看出来。

中国大陆市场占英伟达销售额的20%左右,近两年,该公司不得不多次改变GPU性能规格,以满足美国政府的出口要求。

2022年8月,美国政府禁止向中国大陆出口英伟达的A100和H100芯片,因为这些芯片的通信带宽达到了600GB/s或更高。针对中国大陆市场,英伟达随后推出了A800和H800处理器,通信带宽都明显低于600GB/s。

2023年10月,美国商务部工业与安全局(BIS)表示,将使用 “性能密度”作为新参数对受限芯片进行分类。根据新规定,英伟达的A800、H800、L40、L40S和RTX 4090相关产品被禁止销往中国大陆。针对这项规定,英伟达又于去年11月推出了三款AI芯片——H20、L20和L2,但要到2024年第二季度才能量产交付。

针对RTX 4090在中国大陆销售受限问题,英伟达开发出了RTX 4090 D显卡,通过降低部份规格,以符合美国出口管制要求。据悉,RTX 4090 D满足综合运算性能(TPP)4800限制,RTX 4090的TPP是5286。

最近,英伟达推出了最新版本的中国特供GPU和显卡RTX 5880 Ada,符合4800 TPP的限制规定。英伟达将AD102芯片用于RTX 6000 Ada和RTX 5000 Ada,RTX 5880 Ada很可能使用相同芯片的变体。AD102拥有18,432个CUDA内核。

随着近几年美国限制政策的出台,以及中国本土企业和产品竞争力的提升,英伟达等厂商的技术和产品优势正在缩小。例如,H20在性能和效率上仍比中国本土AI芯片具有优势,但这种优势正在缩小,因为多家中国本土芯片厂商正在快速发展。

由于中国本土AI芯片与英伟达特供版产品之间的差距在缩小,进入2024年以来,多家中国互联网大厂和云服务提供商表示,今年下订的英伟达H20等产品数量将远少于原本想买的,因为来自中国本土的相关芯片用量增加了。

测试结果显示,H20能在多个处理器之间高效传输数据,比中国本土相关芯片更适合AI计算应用,但是,需要更多H20才能表现出英伟达常规GPU的算力,这就大幅提高了成本。相比之下,中国本土最先进的AI芯片也能处理AI相关应用,只是处理任务的复杂度低于英伟达的。知情人士表示,多家中国互联网大厂和云服务提供商已经把一些AI芯片订单转至本土厂商,以华为为例,据悉,该公司去年已从本土互联网大厂手中拿到至少5000组Ascend 910B芯片订单,预定今年交货。

2月下旬,黄仁勋在接受外媒采访时表示,如今,整个科技行业都在争相开发和优化自己的芯片技术,无论是TPU团队、AWS Trainium和Interentia团队,还是微软的Maia项目,以及中国各大云服务提供商和初创公司,都在这一领域投入了大量的精力。这种竞争态势确实非常激烈。

对于中国大陆的竞争对手,黄仁勋表示,华为是非常好的公司。尽管他们受到现有半导体制程技术的限制,但他们仍然可以通过将许多芯片聚集在一起来构建非常强大的系统。为了与华为竞争,英伟达正在向客户提供两款专门针对中国市场的新AI芯片样品。

这是英伟达首次公开将华为列为竞争对手。此前,英伟达唯一一次公开提到华为是在2017年的一份财报中,当时,该公司表示,华为将使用英伟达的Volta HGX架构为数据中心构建AI系统。在那份报告中,英伟达还将华为列为其AI智慧城市平台的合作伙伴,而现在,华为成为了英伟达不得不重视的竞争对手。

04

结语

经过2023年的火爆,2024年的AI服务器市场很可能会更加旺盛,这给相关高性能芯片、特别是GPU厂商提供了更多商机。

对于行业领导厂商而言,众多竞争对手,甚至包括客户都虎视眈眈。站得越高,如果处理不好的话,摔得就会越惨,需要在技术、产品和商业推广等多方面,充分发挥原有优势,压制竞争对手,才能保持行业地位。

对于英伟达来说,2024年的AI服务器GPU市场依然会是它的天下。但在不断变化、发展的高性能计算市场,谁能断定两三年后的技术和产品市场会有多大变化呢?就像两年前,谁能断定华为能在2023年实现手机处理器制造突破一样。