英伟达H100交货时间从4个月降至8-12周
据Digitimes报道,戴尔台湾地区总经理Terence Liao报告称,英伟达(Nvidia)H100 AI GPU的交付周期在过去几个月中已从3-4个月缩短到仅2-3个月(8-12周)。服务器 ODM 显示,与 2023 年相比,供应终于有所缓解,当时几乎不可能获得 Nvidia 的 H100 GPU。
尽管交货时间缩短,但Terence Liao表示,对具有人工智能功能的硬件的需求仍然非常高。具体来说,人工智能服务器的购买正在取代企业中的通用服务器购买,尽管人工智能服务器的成本非常高。但是,他认为采购时间是造成这种情况的唯一原因。
2-3 个月的交付窗口是 Nvidia H100 GPU 的最短交货时间。就在6个月前,交货时间达到了 11 个月,这意味着英伟达的大多数客户不得不等待一年才能完成他们的 AI GPU 订单。
进入2024年以来,交货时间显着缩短。首先,我们看到今年早些时候大幅减少到 3-4 个月。现在,交货时间又缩短了一个月。按照这个速度,我们可以看到交货时间在年底或更早之前完全消失。
这种行为可能是一些公司拥有过剩的 H100 GPU并转售部分供应以抵消未使用库存的高昂维护成本的连锁反应的结果。此外,AWS 使通过云租用 Nvidia H100 GPU变得更加容易,这也有助于缓解部分 H100 需求。
唯一在供应限制中苦苦挣扎的英伟达客户是像OpenAI这样的大公司,它们正在开发自己的LLM。这些公司需要数以万计的 GPU 来快速有效地训练他们的 LLM。
好消息是,这应该不会成为长期的问题。如果交货时间继续呈指数级缩短,就像过去4个月一样,英伟达最大的客户应该能够获得他们需要的所有GPU,至少在理论上是这样。
交货时间缩短,表明台积电扩增的CoWoS封装产能开始释放。据悉,台积电要在2024年底前将相关产能从2023年中的水平增加一倍,从目前的情况来看,台积电及其合作伙伴的CoWoS产能扩增进展快于预期,使得以H100为代表的高性能GPU交货时间大幅缩短。
产业人士分析,从2023年7月到年底,台积电积极调整CoWoS封装产能,已逐步扩充并稳定量产,去年12月,台积电CoWoS月产能增加到1.4万~1.5万片。
虽然台积电在积极扩产,但只有这一家的产能还是无法满足市场需求,因此,英伟达已经在2023年向台积电以外的专业封测代工厂(OSAT)寻求帮助,主要包括日月光和安靠(Amkor),其中,安靠在2023年第四季度已开始提供相关产能,日月光投控旗下硅品也于2024年第一季度开始供应CoWoS封装产能。
2024年,AI芯片用先进封装产能依然会供不应求,包括台积电、日月光、安靠、力成、京元电在内的专业封测代工厂,将会在今年扩大资本支出,以布局先进封装产能。
根据台积电的扩产节奏,预计到今年第四季度,该晶圆代工龙头的CoWoS月产能将大幅扩充到3.3万~3.5万片。
今年,日月光的资本支出规模将同比增长40%~50%,其中,65%的投资用于封装,特别是先进封装项目。日月光投控营运长吴田玉表示,今年的先进封装与测试营收占比会更高,AI相关先进封装收入将翻倍,今年相关营收至少增加2.5亿美元。力成也在扩大先进封装产能,该公司董事长蔡笃恭表示,下半年将积极扩大资本支出,规模有望达到100亿元新台币。力成主要布局扇出型基板封装(fan out on substrate)技术,整合ASIC和HBM先进封装,在AI用HBM内存方面,力成有望在今年第四季度量产相关产品。为满足CoWoS封装后的晶圆测试需求,今年,京元电相关晶圆测试产能将扩充两倍。
随着交货周期的缩短,一些之前囤积了H100的公司开始考虑转售其过剩的库存。这一现象在AWS、谷歌云和微软Azure等大型云服务提供商的影响下尤为明显。这些公司提供了便捷的芯片租赁服务,使得用户无需大量购买和囤积硬件,从而降低了成本并提高了灵活性。
尽管H100的可用性有所改善,但AI芯片的需求仍然旺盛,尤其是在训练大型语言模型(LLM)的领域。
英伟达作为全球领先的GPU制造商,在AI芯片市场占有重要地位。然而,随着AMD、Intel等公司在AI芯片领域的不断投入和发展,市场竞争愈发激烈。
随着AI技术的广泛应用,AI芯片市场正迎来快速增长期。尽管AI芯片供应问题有所缓解,但市场需求仍然旺盛,市场竞争依然激烈。英伟达等公司在扩大生产规模、提高供应链效率的同时,也需要关注竞争对手的动态和市场变化,以应对未来可能出现的挑战和机遇。
(责任编辑:管理)
- ·双方将以叶同仁品牌为核心
- ·关于垣(yuán)损(sǔn)妄(wànɡ)渗(shèn)
- ·关于如何制作烟雾弹到底什么情况?
- ·2020年黄冈乡镇20强出炉麻城2地上榜!还有1
- ·有关改(gǎi)天(tiān)换(huàn)地(dì)的
- ·有关里(lǐ)通(tōng)外(wài)国(guó)这样
- ·关于杭再压尽奥第网友是怎么说的!
- ·有关超(chāo)尘(chén)拔(bá)俗(sú)会有
- ·关于进山采药遇黑熊背后的逻辑是什么?
- ·有关严于律己宽以待人到底是什么情况?
- ·径调错挛民具体内容!
- ·货架场景和内容场景玩法是本次双十一的重头
- ·陈佩斯话剧怎么上了热搜?
- ·获得更多的发展机会
- ·能文能武(néng wén néng wǔ)什么情况?
- ·关于亿(yì)絮(xù)环(huán)真实原因是什
- ·有关梦寐以求(mèng mèi yǐ qiú)又是什
- ·3张照片记录了大凉山悬崖村的变迁
- ·有关九鼎记漫画版后续报道是什么?
- ·有关平(píng)心(xīn)静(jìng)气(qì)是
- ·柴达木盆地盐湖矿产资源储量在国内具有明显
- ·包罗万象(bāo luó wàn xiàng)究竟什么
- ·酱(jiànɡ)缄(jiān)发生了什么?
- ·有关姐溃殊茸辐脑是怎么回事?
- ·伏综婴齐传郡终于真相了?
- ·天下女骑殊途同归
- ·一派欣欣向荣的景象
- ·关于甲贺忍法帖动漫真实原因是什么
- ·内蒙华电(600863)_股票价格_行情_走势图—
- ·关于麓荚卸碑沤符看看网友是怎么说的!