人工智能依然是最热门的科技投资方向,这推动英伟达的算力芯片供不应求、价格高昂。由英伟达开发、在数据中心中提供算力的H100芯片,是目前市面上性能领先的旗舰级产品,在其发布17个月、流入市场12个月之际,海外散货市场的采购价格仍然高达4.5万美元。
此外,美国金融机构Raymond James在近期的一份报告中透露,H100芯片成本仅3320美元,但英伟达对其客户的批量价格仍然高达2.5万至3万美元。这导致H100利润率或高达1000%,成为了有史以来“最赚钱”的一种芯片。
近四个季度以来,算力需求成为驱动英伟达业绩成长的最强动力。在H100为代表的产品销售推动下,英伟达抵抗住半导体行业的下行周期,业绩逆向成长。该公司将在8月末公布近一个季度的最新销售成绩,而算力芯片在收入和利润方面的表现料将成为市场焦点。
探究H100成本
H100亮相于2022年3月22日,是英伟达设计的第九代数据中心GPU。自从2022年9月量产投入市场后,该芯片成为市场上最受欢迎的AI训练芯片之一。近期有市场消息称,H100是英伟达一款利润率高达1000%的产品,引起广泛关注。
美国金融机构Raymond James称,H100的成本约为3320美元,但英伟达对客户的批发销售价格介于25000美元至30000美元。该机构所说的成本包括芯粒、组件、PCB等材料。
此外,多名英伟达和台积电内部人士向媒体透露称,英伟达将于2023年在全球范围内交付约55万块H100。台积电是H100的主要制造商。
如果按照均价中位数2.75万美元计算,2023年英伟达可能会从H100这个单一产品上获得151.25亿美元的销售收入。
事实上,市场上流通的“散货”H100更为昂贵。8月21日,电商亚马逊渠道上的H100价格为43998美元,eBay上价格更高达45000美元。
为何H100价格高昂?南方财经全媒体记者向一名资深显卡卖家了解到,H100植入了四大昂贵的技术。
第一是台积电4N制程技术,英伟达将H100交给台积电代工,令这张长10.6英寸、宽4.4英寸的显卡中含有800亿个晶体管,获得前所未有的性能。
第二是连接技术,每张H100包含3个NVLink桥接,这是英伟达自研的数据传输技术,在市场上媲美流行的PCIe,以便将更多的H100相互连接使用,获得倍增的性能。
第三是80GB的HBM2e存储技术,值得留意的是,英伟达刚刚在8月初宣布将最新的HBM3e植入了下一代H100。这种存储技术目前为韩国三星和SK海力士垄断,价格相对较高。
第四是台积电提供的CoWoS封装技术,按照台积电在7月底法人说明会上的说法,其正在加大CoWoS封装的产能,但是供不应求的情况应该会持续到明年,因此也价格较高。
“利润率高达1000%”这个说法令市场震惊,不过有行内人士向南方财经全媒体记者分析称,英伟达作为芯片设计公司,所付出的研发成本要比材料费用更高,此外当下台积电代工的成本应该也是最神秘的成本之一。
“尽管英伟达的毛利润率仍然高达60%以上,但撇除研发费用后,该公司的净利润率其实被压缩到10%至20%之间。”这名行内人士称。
查询英伟达的财报,该公司前四个季度的该公司毛利润率介于63.3%和65.5%,但净利润介于9.79%至28.41%。
英伟达官网显示,H100有两种内存插槽规格,一种是SXM,一种是PCIe。由英特尔发明的PCIe相较之下更为通用,但SXM由英伟达自研发,主要为了组装系统级产品。SXM版本的H100能通过NVLink进行相连,组成了更为强大的DGX系统或者GH200芯片。
由于上述内存插槽规格的差异,H100 PCIe版本可以单卡出售,但H100 SXM是不能单卡出售、只能整机定制的。此前,南方财经全媒体记者曾向英伟达内部人士了解H100的销售价格,但该人士表示这取决于特定客户的购买数量和业务关系。
H100不能被称为“最昂贵的芯片”,但它成为了更贵芯片的组成单元。8月初,英伟达公布了更新版、使用HBM3e技术的GH200芯片。GH200其实就属于DGX系统级产品,它将包括256块Grace CPU和H100。
推高英伟达利润率
在英伟达的营收中,数据中心和游戏是两大支柱型业务。过去约一年来,数据中心的贡献率已经反超游戏,并将在AI浪潮中继续凸显支柱作用。英伟达预计将在8月23日公布最新的季度财务报告,市场将持续关注H100等数据中心算力芯片的业绩拉动作用。
今年2至4月,英伟达数据中心业务销售额达到42.84亿美元。可以看到,从2021年下半年以来,数据中心收入一直在持续增长,单季度收入从23.66亿美元持续增长到了42.84亿美元。与此同时,游戏业务的单季收入则从30.61亿美元持续下滑,2至4月仅有22.4亿美元。数据中心在2022财年第四季度反超游戏,成为英伟达随后持续的“第一支柱”。
英伟达目前的数据中心产品包括H100、A100等几个系列的GPU及基于上述GPU的DGX系统性解决方案,此外还包括Grace CPU、BlueField DPU等不同类型的数据中心芯片产品。
下游客户的需求为什么会暴涨?此前英伟达首席财务官Colette Kress曾经介绍过三大客户来源:云服务供应商、消费互联网公司和汽车、金融服务等领域。在生成式人工智能浪潮中,上述三种类型的公司较为领先地“嗅到”了AI的潜在能力,它们自己训练或者借助别人的成果应用人工智能大模型的需求最为急迫。
值得留意的是,H100为代表的GPU产品,令英伟达在环球芯片下行周期中获得抗压能力,尤其在利润率表现上维持了优势。英伟达近四个季度的财务表现反映,该公司毛利润率介于63.3%和65.5%,变化并不大。不过,考虑到游戏显卡大幅降价,H100为代表的算力芯片因此承担了利润的主要贡献方。
谁在抢购H100、A100等芯片呢?市场分析认为,大部分英伟达GPU将提供给美国科技公司,但近期沙特阿拉伯、阿联酋等中东国家也势头强劲。
有消息指出,沙特阿拉伯已经购买了至少3000块H100,阿联酋也购买了数千块英伟达的算力芯片。其中,阿联酋阿布扎比技术创新研究所所开发的“猎鹰 40B”模型是近期开源社区中炙手可热的商用大模型,反映阿联酋在增强基础算力方面不遗余力。