明日清晨,英伟达即将发布的最新财报成为全球科技业最重要大事件,黄仁勋手上的“AI风向球”决定整个产业链的走向。 AI是长线确定的趋势,没有“荣”或“枯”的问题,但短期AI服务器产业有两大瓶颈:台积电CoWoS后端封装产能,以及高带宽内存HBM供给不足,让英伟达非常头痛。
8月初,英伟达AI服务器合作伙伴美超微Supermicro在财报会议上指出,“公司积压订单金额创历史新高,但因为受限英伟达GPU供应不足,让AI服务器无法出货。”此话一出,美超微的股价在十天内崩跌30%。
美超微财报很好,只是讲了大实话,一语道出当前AI服务器供应链难解的瓶颈与困境。 AI需求很好,但芯片做不出来,服务器当然交不了货。而且,这个瓶颈是2023年无法解决的,至少要等到2024年中才会慢慢纾解。
AI服务器交不了货的凶手是谁?是台积电CoWoS后端封装产能,以及高带宽内存HBM全球供给不足的问题。
7月Computex期间,黄仁勋直奔台积电与董事长刘德音会面,商量增加CoWoS产能供应。台积电在之后的投资人会议上也明确指出,目前AI最大问题是CoWoS产能不足,无法满足客户,已在加紧增产中,预计2024年下旬产能才能纾解。
问题是,老黄的印钞机卡住了,怎么可能等到2024年下半。热腾腾的炉子可不能就这样等冷了。
综合调研机构和外资分析师预估,至2023年底,台积电CoWoS月产能可以达到12万片,预计2024年中可扩增至15万~18万片,年底可上看30万片,预计到2024年中扩增的产能可以追上市场上的算力需求。另有一说,台积电的CoWoS产能中,英伟达大概吃了将近50%的量。
由于英伟达的H100/A100等芯片需要高带宽内存HBM,各自搭载HBM2和HBM3芯片,AMD最新的MI300也搭配HBM3,再用上CoWoS封装技术,使得整个AI商机让HBM需求大爆发。
日前有韩媒指出,三星挟持先进封装技术和第三代HBM3产能,积极争取英伟达H100订单。既然当前最热门的先进封装技术和HBM两大AI法宝,三星刚好都有,此时不跟台积电抢单要更等何时。
英伟达的AI订单需求再好,后端产能没跟上也无法100%充足供应给客户。但老黄可不是吃素的,怎么可能让AI印钞机商机因为CoWoS产能不足就这样凭空消失。更何况,英伟达可是从过去矿机生意中,已经学到满满的经验值。
英伟达的解法是,既然AI服务器的供应卡在CoWoS产能和HBM芯片,那就推出一款AI服务器是可以满足客户的算力需求,但又不需要用CoWoS技术和HBM芯片!没错,就是英伟达最新推出的L40S GPU。
就像是2022年9月美国商务部无预警宣布英伟达的H100/A100芯片不能销售到中国,英伟达立刻推出一款降算力的版本A800/H800,特规供应给中国市场。因为降算力,所以特供版A800/H800也不需要CoWoS和HBM芯片。