GPU太烧钱 巨头自研AI芯片渐成趋势

本报记者 李玉洋 上海报道

身处AI（人工智能）的“iPhone时间”，英伟达的职位仍旧稳固。

英伟达于克日发布的2024财年三季报表现，其营收到达创记载的181.20亿美元，同比增长206%，环比增长34%；净利润再创新高，到达92.43亿美元，同比增长1259%，环比增长49%。

同时，英伟达还预计下个财季营收将到达200亿美元，这份强劲的收入猜测，表明白支持AI繁荣的芯片需求仍然繁茂。现在，英伟达的GPU占据了AI芯片绝大部门的市场份额，且供不应求，高端GPU更是一卡难求。

而一股自研AI芯片的风潮正在科技巨头之间鼓起，不管是为了低落资本，还是淘汰对英伟达的依赖，包罗谷歌、亚马逊、阿里巴巴、腾讯、Meta等大厂先后入局造芯，了局自研AI芯片。《中国策划报》记者注意到，这份巨头自研AI芯片的列表现在又增长了新成员——微软，在11月中旬举行的开辟者大会上，微软推出自家的AI芯片Maia 100；而风头正盛的OpenAI也被爆出正在探索研发本身的AI芯片。

“他们的算力需求比力大，英伟达的卡对他们来说太贵了，而且专门为大模子操持的芯片，能效比会比N卡更高。”一名算力提供商员工体现，做AI芯片太烧钱了，许多AI芯片公司扛不住了，大模子会加速镌汰。

根据英伟达数据，在没有以Transformer模子为根本架构的大模子之前，算力需求大抵是每两年提升8倍；而自利用Transformer模子后，算力需求大抵是每两年提升275倍。

“自研AI芯片是一个产业走向成熟绕不开的趋势，但凡哪个厂商AI运算的体量大幅度提升，就必要自家的芯片来支持，如许才气到达最高的优化。”研究机构Omdia AI行业首席分析师苏廉节对记者体现，未来AI芯片市场不再由GPU独霸，“我以为比力风趣的是英伟达本身怎么看这个趋势”。

而英伟达方面在业绩分析会上证实，其正在为中国开辟新的合规芯片，但同时体现这些不会对第四序度的收入作出实质性贡献。“来岁年初才气下单，我们在等代价，下单后啥时间能到货还欠好说。”对此，记者从国内一家服务器公司的技能研发职员口中得到了一些侧面印证。

洗牌制止不了

“现在，环球几个云大厂根本上都在自研AI芯片，好比亚马逊的Trainium和Inferentia、谷歌的TPU、百度的昆仑、华为的昇腾、阿里的玄铁，现在微软也开始做本身的AI芯片。”苏廉节体现，未来云大厂会把自家的模子摆设在本身的芯片上，这是产业发展绕不开的趋势。

然而，他还指出：“这不代表英特尔、AMD、寒武纪这种芯片厂商就没有出路，究竟不是全部的开辟者都会选择利用云厂商的芯片。”

同时，作为云大厂，微软也没有把本身的AI芯片Maia 100的利用权赋予全部人。微软首席实验官萨提亚·纳德拉（Satya Nadella）体现，Maia将起首为微软本身的人工智能应用步伐提供支持，再提供给互助搭档和客户。

据相识，微软Maia 100采取台积电5nm工艺，拥有1050亿个晶体管，比AMD的MI300X GPU的1530亿个晶体管少约30%。Maia将用于加速AI盘算使命，服务于贸易软件用户和利用Copilot的个人用户，以及盼望制作定制人工智能服务的开辟者。

本年6月，AMD对外展示可与英伟达H100一较高低的Instinct MI300X GPU。根据爆料信息，其显存容量提升到192GB，相称于H100 80GB 的2.4倍，同时HBM内存带宽高达5.2TB / s，Infinity Fabric总线带宽也有896GB/s，同样凌驾H100。

最新消息表现，AMD将于北京时间12月7日破晓2点举行一场专门针对AI的特别活动，不出不测的话就是公布正式发售MI300X。在第三财季业绩发布会上，AMD指出其AI方面的盼望，预计第四财季数据中心GPU收入约为4亿美元，到2024年将凌驾20亿美元，MI300系列产物有望成为AMD汗青上在最短时间内到达贩卖额上10亿美元的产物。

而英伟达则在11月13日发布新一代AI处置处罚器H200，旨在培训和摆设各种人工智能模子。H200是当前H100的升级产物，集成了141GB的内存，在用于推理或天生题目答案时，性能较H100进步了60%至90%。

英伟达透露，搭载H200的体系将于2024年第二季度由英伟达的硬件互助搭档和紧张的云服务提供商提供，包罗亚马逊云AWS、谷歌云和微软云Azure等。英伟达在上个月还体现，将从两年一次的发布节奏厘革为一年一次，来岁将发布基于Blackwell架构的B100芯片。

值得一提的是，克日，有“英国英伟达”之称的AI芯片独角兽Graphcore称，由于美国出台的出口管制新规限定了公司向中国的技能贩卖，公司将克制在华贩卖。

“很遗憾，这意味着我们将大幅缩减在华业务。”Graphcore发言人在电子邮件中体现。但该公司拒绝透露受影响的员工人数。此前，Graphcore CEO奈杰尔·图恩(Nigel Toon)曾把中国视为一个潜伏增长市场，尤其是英伟达被限定向中国贩卖产物之后。本年10月，图恩体现，来自中国的贩卖额大概占其公司业务的20%至25%。

现在，Graphcore已经陷入逆境。该公司最新提交的文件表现，2022年营收降落46%，亏损扩大11%至2.046亿美元。客岁10月，Graphcore披露必要筹集资金以维持运营。在那之后，Graphcore再未公布任何融资消息。美国对华禁令无疑使其落井下石。

对于Graphcore的最新动态以及AI芯片行业的发展近况，记者接洽Graphcore方面，该公司体现：“不方便品评。”国内AI芯片初创公司壁仞科技同样也是保持沉默沉静。

对此，资深行业分析师张慧娟体现：“芯片大概会在未来很长一段时间都是AI竞争的核心，包罗国家（可参考美国对高端AI芯片出口中国的限定）、巨头、初创公司之间。但行业发展还处于初期，未来肯定会有一轮洗牌。”

“别的，OpenAI近来的宫斗，体现了人才对于AI的紧张性。以是，算力（芯片）和人才，会是很长一段时间内AI的竞争核心。”张慧娟说。

非云端是突破口

上述算力提供商员工体现，英伟达十几年创建的CUDA生态确实不容易被撼动，但是大模子也带来了许多机遇。

“从本年市场所看到的融资信息来看，AI芯片赛道整个都很冷，现有的市场有点饱和，最关键的是AI还没有大量变现，许多公司摆设了AI不是拿来赢利，紧张是拿来低落内部运作资本。”苏廉节体现，“天生式AI软件的投资有显着的提升。”这里的软件指的是大模子，代表公司为百川智能等。

苏廉节还指出：“未来的AI芯片市场，大概不再由GPU独霸，比力风趣的是英伟达本身怎么看这个趋势，可以从他们现在积极摆设的新市场，去看看他们的心态。”

对于新增长战略，英伟达在Q3财报中夸大了三大要素：CPU、网络、软件和服务。据悉，Grace是英伟达第一款数据中心CPU，Grace和Grace Hopper将在来岁全面投产，英伟达CEO黄仁勋指出，英伟达可以资助客户创建一个AI工厂并创收。

NVIDIA Quantum Infiniband是英伟达推出的网络办理方案，其具有高带宽、低时延、高可靠、易摆设的特点，可实现多台DGX盘算机的高效互联，InfiniBand同比增长了5倍。

将GPU、CPU、网络、AI企业软件等作为增长引擎，是英伟达的远期猜测和技能蹊径，对于处于其他阶段的玩家不愿定实用。

苏廉节以为，边沿装备大概是AI芯片赛道上其他玩家的突破口。“好比智能汽车、呆板人、无人机，现在的大模子都在云端，但它徐徐会走向终端，量就会很大。”他说。

张慧娟也持有雷同观点。“GPU在云端大算力有绝对上风，但是端侧、边沿侧，有着非常丰富的应用范例，以是这也是其他AI芯片厂商寻求突破的点。且从市场规模来讲，边沿端增长空间很大，这也是吸引AI芯片厂商进入的一个缘故因由。”

她还提到，国内AI芯片厂商，除了少数几家进入云端外，大部门会集在端侧，也有一些从端侧跨进边沿，“国内芯片厂商在边沿侧突破比力大的有瑞芯微、全志，高通、NXP、瑞萨、ADI等国际芯片厂商也在鼎力大举做边沿AI。”

必要指出的是，边沿和端侧没有特别明白的区分或界定。“以是，很难说这家厂商只做边沿或只做端侧。着实英伟达也有边沿AI方案，好比智能驾驶方案，也很强。英伟达、英特尔等巨头号称从云到边沿到端都做，主打一个端到端全覆盖。”张慧娟说。

克日，遐想团体董事长兼CEO杨元庆也体现，现在大模子的用户规模还比力小，大多数大模子都在算力较强的公有云上训练。“未来，随着用户规模扩大，无论是出于数据安全和隐私掩护的思量，还是更高服从、更低资本相应用户需求的思量，大模子的盘算负载将徐徐由云端向边沿侧和端侧下沉，越来越多的人工智能的推理使命将会在边沿和装备端举行。”

杨元庆指出，要构建和优化大模子，支持更多天生式人工智能的应用，不但必要提升云端的算力，在边沿和端侧也必要更强大算力的共同，形成“端-边-云”肴杂盘算架构下更均衡的算力分配。